Искусственный интеллект может взломать интерфейс "Мозг - компьютер" и получить контроль над сознанием человека
Привет. Интерфейсы "Мозг-Компьютер" (BCI), такие как те, которые разрабатываются компанией Илона Маска Neuralink, рискуют быть взломанными искусственным интеллектом, предупреждают эксперты - это означает, что мысли, решения и эмоции человека могут стать доступными для манипуляции AI машинами.
Это предупреждение сделано на этой неделе 27 нейробиологами и инженерами искусственного интеллекта.
Исследователи используют гипотетический пример парализованного человека, участвующего в испытании интерфейса "мозг - компьютер", которому не нравится работа исследовательской группы с ним. Искусственный интеллект, читающий его мысли, может воспринять его неприязнь к исследователям, как команду навредить исследователям, несмотря на то, что парализованный человек не давал такого прямого указания машине.
«Технологические разработки означают, что мы находимся на пути к миру, в котором можно будет расшифровать психические процессы людей и напрямую манипулировать мозговыми механизмами, лежащими в основе их намерений, эмоций и решений; где люди могут общаться с другими людьми, просто думая; и где мощные вычислительные системы, связанные непосредственно с мозгами людей, способствуют их взаимодействию с миром, так что их умственные и физические способности значительно улучшаются».
По оценкам исследователей, сегодня более десятка компаний работают над похожими технологиями BCI, в частности, одним из основных проектов является Neuralink, который был запущен в начале этого года.
Neuralink разрабатывает беспроводной интерфейс «мозг-компьютер», способный обеспечивать быстрый обмен информацией между человеком и компьютером напрямую через мозг, чтобы увеличить естественный интеллект человека. Технология основана Маском на концепции нейронных кружев, впервые описанной в романе 1987 года «Культура» автора научной фантастики Иина М. Бэнкса, который описал футуристическую сеть по образу человеческого мозга, которая позволяет программировать нейроны.
Если потенциал такой технологии будет реализован, это может привести к новой технологической эпохе для человечества. Исследователи предупреждают, однако, что история свидетельствует «погоня за эффектным результатом часто игнорирует социальную ответственность» в этой области. Поэтому крайне важно разработать необходимые этические приоритеты, чтобы удостовериться, что технология полезна, а не вредна человечеству.
”Возможные клинические и социальные преимущества нейротехнологий огромны", - заключают исследователи. "Чтобы воспользоваться ими, мы должны направлять их развитие таким образом, чтобы уважать, защищать и обеспечивать только лучшее, что есть в человечестве."
