Сегодня все говорят об искусственном интеллекте (ИИ). Но, если вы посмотрите, ни Siri, Alexa или просто автокоррекцию на клавиатуре в вашем смартфоне, вы поймете, что мы не создаем системы искусственного интеллекта, мы лишь создаем программы, способные выполнять строго определенные задачи.

Проблема искусственного интеллекта: машины могут научиться, но не могут понимать.

Компьютеры не могут ´мыслить´

Когда бы компания не заявила о том, что выпускает очередную ИИ-фишку, обычно это означает, что она использует машинное обучение для построения нейронной сети. Машинное обучение - это способ, позволяющей машине ´научиться´, как лучше всего выполнять определенную задачу.

В этой статье мы ни в коем случае не критикуем машинное обучение! Это потрясающая технология, которую можно применить в огромном количестве сфер. Но это не ИИ в полном смысле. И понимание ограничений машинного обучения поможет вам понять, почему современные ИИ-технологии не так развиты, как нам бы того хотелось.

Искусственный интеллект из научно-фантастических фильмов и книг - это подобие компьютеризированного или роботизированного мозга, способного размышлять о вещах и понимать их так, как это делает человек. Такой искусственный интеллект можно назвать искусственным общим интеллектом (ИОИ). Это означает, что он способен думать о ряде различных вещей и применять свои умозаключения в ряде разнообразных ситуаций. С ним связано понятие ´сильного ИИ´, оно подразумевает возможность существования у машины сознания, близкого человеческому.

Такими технологиями мы пока не обладаем. Мы даже близко не на этой стадии. Такие программы, как Siri, Alexa или Cortana не способны понимать действительность и думать как человек. На самом деле они вообще не понимают, что происходит вокруг.

Системы искусственного интеллекта, которыми мы обладаем, очень хорошо обучены выполнять определенные задачи, но только при условии, что человек их этому обучит. Они обучаются, но не понимают, что они делают.

Компьютеры не понимают

У Gmail появилась новая функция ´Smart Reply´, предлагающая ответы на электронные письма. Но она распознает фразу ´отправлено с iPhone´ в качестве типичного ответа. Она так же предлагает фразу ´Я тебя люблю´ для ответа на множество самых разнообразных писем, включая рабочую корреспонденцию.

Это происходит из-за того, что компьютер не понимает значения этих фраз. Он просто научился тому, что многие люди отправляют сообщения с подобным текстом. Компьютер не знает, действительно ли вы хотите признаться в любви своему боссу или нет.

В качестве другого примера приведу сервис Google Фото, который составил коллаж из случайных фото нашего домашнего ковра. А после программа вывела этот коллаж на экран нашего Google Home Hub. Сервис Google Фото распознал сходство фотографий, но не смог понять, насколько они незначительны.

Зачастую у машин получается перехитрить систему

Машинное обучение заключается в постановке задачи и предоставления компьютеру возможности решить ее максимально эффективно. Но из-за того, что машина не понимает, что она делает, все может закончится тем, что она ´научится´ решать не ту проблему, которую вы хотели.

Вот лишь небольшой список забавных примеров, когда ´искусственные интеллекты´, созданные для прохождения игр, умудрились перехитрить систему:

  • ´Чтобы развить максимальную скорость, существа в игре выросли очень высокими и просто падают по направлению движения´.
  • ´Агент убивает себя в конце первого уровня, чтобы не проиграть на уровне 2´.
  • ´Агент постоянно ставит игру на паузу, чтобы не проиграть´,
  • ´При искусственном моделировании жизни, где выживание требовало энергии, но рождение детей энергии при этом не отнимало, они из видов развил сидячий образ жизни, состоящий в основном из спаривания с целью производства потомства, которое можно было бы потом съесть (или использовать в качестве помощников для производства более съедобных отпрысков)´.
  • ´Поскольку в случае проигрыша ИИ с большой вероятностью ´убивают´, способность ´сокрушить´ игру стала серьезным преимуществом в процессе генетического отбора. Так что многие ИИ научились это делать´.
  • ´Нейронные сети, созданные для классификации съедобных и ядовитых грибов, использовали только данные, представленные в произвольном порядке, совершенно проигнорировав при этом входные изображения´.

Некоторые из этих решений могут показаться вам находчивыми, но ни одна нейронная сеть не понимала при этом, что она делает. У каждой системы была задача, система училась ее решать. Если цель - избежать проигрыша в компьютерной игре, поставить игру на паузу - самое простое и быстрое решение проблемы, которое можно найти.

Проблема искусственного интеллекта: машины могут научиться, но не могут понимать.

Машинное обучение и нейронные сети

При машинном обучении компьютер не запрограммирован на выполнение конкретной задачи. Вместо этого в него загружают данные и он оценивает необходимость их использования в каждом конкретном случае.

Один из самых простых примеров машинного обучения - распознавание изображений. Давайте представим, что мы хотим научить компьютерную программу распознавать фото с изображением собак. Мы можем загрузить в программу миллионы изображений, с собаками на них и без. Все фотографии помечены на предмет наличия собаки на картинке. А программа, исходя из предоставленных данных, сама ´тренируется´ распознавать, что представляют из себя собака.

Процесс машинного обучения используется для тренировки нейронных сетей - компьютерных программ, содержащих несколько слоев, через которые проходят все новые данные, а каждый слой приписывает данным различный вес и вероятность перед тем, как окончательно принять решение. Моделирование нейронных сетей происходит на основании наших представлений о функционировании человеческого мозга, когда множество слоев нейронов вовлечено в процесс размышления над задачей. Понятие ´глубокое обучение´ как правило относится к нейронным сетям с множеством слоев, приходящих во взаимодействие между входным и выходным сигналами.

Так как мы знаем, какие из загруженных в систему фото содержат изображения собак, а какие нет, мы можем прогнать их через нейронную сеть и проверить правильность ее решений. Если система, например, считает, что на каком-то фото не изображена собака, когда на самом деле она изображена, можно воспользоваться специальными механизмами, чтобы указать нейронной сети на ошибку, скорректировать параметры и попробовать снова. Постепенно компьютер научится все лучше распознавать фото на предмет изображения собак.

Все это происходит автоматически. При наличии грамотного программного обеспечения и большого массива структурированных данных, которые компьютер может использовать для тренировки, компьютер сможет настроить свою нейронную сеть на распознавание собак на фото. Это мы и называем ´искусственным интеллектом´.

Но в конечном итоге вы все равно не получаете разумную машину, понимающую, что такое собака. У вас есть компьютер, который научился определять наличие собаки на фотографии, что, конечно, впечатляет, но это все, на что он способен.

А в зависимости от входных данных, которые были предоставлены, нейронная сеть может оказаться не такой уж ´интеллектуальной´. Например, если в вашем наборе данных отсутствовали изображения кошек, ваша нейронная сеть вряд ли будет видеть между ними разницу и будет маркировать фотографии с этими животными как содержащие только изображения собак.

Проблема искусственного интеллекта: машины могут научиться, но не могут понимать.

Для чего используется машинное обучение?

Машинное обучение нашло себе самые разнообразные применения, включая распознавание речи. Такие голосовые помощники, как, например, Google, Alexa, и Siri, так прекрасно понимают, что мы им говорим, именно благодаря техникам машинного обучения, которые ´натаскали´ их на понимание человеческой речи. Для тренировки этих систем были использованы огромные массивы данных с образцами человеческой речи, так что они научились понимать соответствие между наборами звуков и словами.

Беспилотные автомобили используют техники машинного обучения для того, чтобы научиться распознавать объекты на дороге и то, как правильно на них реагировать. Сервис Google Фото буквально напичкан разнообразными функциями вроде Живых альбомов, которые именно благодаря машинному обучению автоматически распознают людей и животных на изображениях.

DeepMind, дочерняя компания Alphabet, использовала машинное обучение при создании AlphaGo, компьютерной программы, способной играть в сложную настольную игру го и побеждать лучших реальных игроков в мире. Технологии машинного обучения также использовались для создания компьютеров, которые неплохо справлялись и с другими играми, начиная с шахмат и заканчивая DOTA 2.

Машинное обучение даже использовалось при создании технологии Face ID для последних версий iPhone. Ваш iPhone моделирует нейронную сеть, которая учится распознавать ваше лицо. Девайсы от Apple содержат специальный чип, своеобразный ´нейронный двигатель´, который способен выполнять обработку огромных массивов численных данных для этой и других задач машинного обучения.

Машинное обучение может быть использовано в самых разнообразных целях от распознавания мошенничества с кредитными картами до составления персонализированных рекомендаций в интернет-магазинах.

И все же нейронные сети, созданные благодаря технологии машинного обучения, на самом деле ничего не понимают. Они просто являются полезными программами, способными выполнять специфические задачи, к которым они обучены. И на этом все.

Автор: Крис Хоффман

иcтoчник: www.kv.by