Искусственный интеллект научился исследовать "умы" других компьютеров
Любой, у кого было неприятное взаимодействие с Сири или Алекса, знает, что цифровые помощники просто не понимают людей. Им нужно то, что психологи называют теорией разума, осознанием убеждений и желаний других. Теперь компьютерные ученые создали искусственный интеллект (AI), который может исследовать «умы» других компьютеров и предсказывать их действия, первый шаг к текущему сотрудничеству между машинами, а также между машинами и людьми.
«Теория разума, несомненно, является решающей способностью», - говорит Элисон Гопник, психолог развития Калифорнийского университета в Беркли, которая не принимала участия в работе. Примерно к 4 годам дети понимают, что убеждения другого человека могут расходиться с реальностью и что эти убеждения могут использоваться для прогнозирования будущего поведения человека. Некоторые из современных компьютеров могут определять выражения лица, такие как «счастливый» или «сердитый» - умение, связанное с теорией разума, - но они мало понимают человеческие эмоции или то, что мотивирует нас.
Новый проект начался как попытка заставить людей понимают компьютеры. Многие алгоритмы, используемые ИИ, не полностью написаны программистами, но вместо этого полагаются на машинное “обучение”, поскольку оно последовательно решает проблемы. Полученные компьютерные решения часто являются черными ящиками, с алгоритмами, слишком сложными для проникновения человеческого понимания. Итак, Нил Рабиновиц, ученый-исследователь DeepMind в Лондоне, и его коллеги создали теорию разума, AI под названием "ToMnet", который наблюдал за работой других AI.
ToMnet состоит из трех нейронных сетей, каждая из небольших вычислительных элементов и соединений, которые учатся на опыте, слабо напоминающем человеческий мозг. Первая сеть изучает тенденции других AI на основе их прошлых действий. Второй формирует понимание их “убеждения.” И третий делает вывод из двух других сетей и, в зависимости от ситуации, прогнозирует последующие ходы AI.
Изучаемые AI были простыми персонажами, перемещающимися по виртуальной комнате, собирая цветные коробки. ToMnet наблюдал за комнатой сверху. В одном тесте было три “вида” характера: никто не мог видеть окружающую комнату, не мог вспомнить свои последние шаги. Слепые персонажи, как правило, следовали вдоль стен, забывающие персонажи перемещались к любому объекту, который был ближе всего, а третий вид формировал подцели, стратегически захватывая объекты в определенном порядке, чтобы заработать больше очков. После некоторого обучения ToMnet смог не только определить вид персонажа всего за несколько шагов, но и правильно предсказать его будущее поведение, сообщили исследователи в этом месяце на Международной конференции по Машинному обучению в Стокгольме.
Заключительный тест показал, что ToMnet мог даже понять, когда персонаж придерживался ложных убеждений, решающего этапа в развитии теории ума у людей и других животных. В этом тесте один тип персонажа был запрограммирован на близорукость; когда компьютер изменил ландшафт за пределами своего видения на полпути к игре, ToMnet точно предсказал, что он будет придерживаться своего первоначального пути чаще, чем более зрячие персонажи, которые с большей вероятностью адаптируются.
Гопник говорит, что это исследование—и еще одно на конференции, которое предложило AI предсказать поведение другого AI на основе того, что они знают о себе,—являются примерами “поразительной” способности нейронных сетей самостоятельно изучать навыки. Но это все еще не ставит их на тот же уровень человеческих детей, говорит она, кто, вероятно, пройдет эту ложную задачу с почти совершенной точностью, даже если бы они никогда не сталкивались с ней раньше.
Джош Тененбаум, психолог и компьютерный ученый Массачусетского технологического института в Кембридже, также работал над вычислительными моделями теории умственных способностей. Он говорит, что ToMnet более эффективно воспринимает убеждения, чем система его команды, которая основана на более абстрактной форме вероятностных рассуждений, а не нейронных сетей. Но понимание ToMnet более тесно связано с контекстами, в которых он обучен, добавляет он, делая его менее способным предсказать поведение в радикально новых средах, как это может сделать его система или даже маленькие дети. В будущем, по его словам, объединение подходов может стать полем «в действительно интересных направлениях».
Гопник отмечает, что тот вид социальной компетентности, который развивают компьютеры, улучшит не только сотрудничество с людьми, но и, возможно, понимание забдлуждений. Если компьютер понимает ложные убеждения, он может знать, как распознать их в людях.