В 2021 году инженер Google Блейк Лемуан попал в заголовки газет — и был уволен, когда заявил о том, что чат-бот LaMDA, которого он тестировал, обладает разумом. Системы искусственного интеллекта (ИИ), особенно так называемые большие языковые модели, такие как LaMDA и ChatGPT, безусловно, могут казаться сознательными. Правда, они лишь обучены работать с огромным количеством текста, чтобы имитировать человеческие реакции. Но могут ли в теории подобные модели обладать сознанием? Недавно группа из 19 специалистов по информатике, нейробиологии и философии предложила интересный способ это проверить с помощью длинного контрольного списка признаков, которые в совокупности могут предполагать (но не доказывать) что ИИ обладает сознанием. В этой экспериментальной работе исследователи опираются на теории человеческого сознания и предлагают 14 критериев для оценки существующих языковых моделей.
Искусственный интеллект не обладает сознанием. Но если узнаем ли мы, если это произойдет?
Содержание
Что такое современный ИИ и как он работает?
Если говорить совсем грубо, то современные системы с искусственным интеллектом могут выполнять задачи, связанные с такими когнитивными функциями человека, как интерпретация речи, участие в играх и идентификация паттернов. Обычно они учатся этому, обрабатывая огромные объемы информации и выискивая закономерности для моделирования при принятии собственных решений.
Во многих случаях именно люди контролируют процесс обучения ИИ, подкрепляя верные решения и препятствуя принятию неверных. Некоторые системы искусственного интеллекта, однако, предназначены для обучения без присмотра, как, например, в случае видеоигр – играя снова и снова, ИИ-системы начинают понимать правила и как одержать победу.
Технологии ИИ развиваются семимильными шагами
Отметим, что современные ИИ-системы в основном представляют собой языковые модели, за что, собственно, их и называют чат-ботами. По сути же нейросети являются математическими моделями (или программами), которые способны к обучению и обработке большого объема данных. В их основе лежит алгоритм машинного обучения для имитации работы человеческого мозга.
Все эти навыки позволяют ИИ не только генерировать собственные тексты и общаться с пользователями в сети, но также писать музыку, генерировать изображения и даже диагностировать заболевания. Но если современный ИИ так хорошо справляется со многими задачами, ранее свойственными только человеку, можем ли называть эти системы сознательными?
Может ли ИИ стать разумным?
Ранее лингвист и выдающийся интеллектуал Ноам Хомски однозначчно высказался о том, что искусственный интеллект, по крайней мере ChatGPT точно не захватит человечество. По мнению профессора, как мы рассказывали ранее, современные ИИ-системы попросту не способны обрести подобие человеческого разума.
Ответы ИИ – не более чем вероятность, меняющаяся со временем, – пишет Хомски.
Искусственный интеллект во многом преуспел, но едва ли обладает сознанием
Теперь же авторы нового исследования, опубликованного на сервере препринтов arXiv (где публикуются статьи, не прошедшие экспертную оценку), предлагают иначе подойти к вопросу о сознании современных ИИ-систем. В 120-страничном документе команда ученых применяет 14 критериев человеческого сознания к существующим архитектурам нейросетей, включая модель, на которой основан ChatGPT.
Команда пришла к выводу о том, что ни одна из существующих ИИ-систем, скорее всего, никогда не сможет обрести сознание. И все же, работа предлагает основу для оценки все более человекоподобных ИИ, так как исследователи начинают внедрять систематическую методологию, которой до сегодняшнего дня не хватало.
Адиль Рази, специалист по вычислительной нейробиологии из Университета Монаша и научный сотрудник Канадского института перспективных исследований (CIFAR), который не принимал участия в новой работе, говорит, что это ценный и довольно важный шаг.
В основе работы современных ИИ-систем лежат принципы работы человеческого мозга
Необходимо отметить, что до 20-х годов XXI столетия тема сознания у машин считалась прерогативой научной фантастики. Но если ИИ научится имитировать наличие сознания, то станет важной темой для обсуждения среди философов (а то и нейробиологов). Более того, проблема разумности искусственного интеллекта имеет моральный аспект. В конечном итоге, как мы должны относиться к ИИ, основываясь на вероятности наличия у него сознания?
Что такое сознание и как его обнаружить?
В ходе масштабной работы, авторы нового исследования сосредоточились на так называемой идее «феноменального сознания» или субъективного качества переживания, например чувствовать боль или видеть цвета. Но разве можно изучить феноменальное сознание алгоритма? Последний, в отличие от человеческого мозга, не подает сигналы о своей работе, которые можно было бы обнаружить с помощью ЭЭГ или МРТ.
Вместо этого ученые применили “теоретический подход”, сначала проанализировав существующие теории человеческого сознания, а затем пытаясь обнаружить их в базовой архитектуре искусственного интеллекта, – отмечают эксперты.
Чтобы предложенная теория поддавалась проверке, ее основа должна лежать в области нейробиологии и подкрепляться эмпирическими данными, такими как сканирования мозга во время выполнения разных когнитивных задач. Необходимо также учесть возможность того, что сознание может возникать независимо от выполнения вычислений биологическими нейронами или кремниевыми чипами.
Математический алгоритм – не человеческий мозг
Исходя из указанных критериев, оценку получили шесть теорий. Одной из них стала теория рекуррентной обработки, согласно которой передача информации через циклы обратной связи является ключом к сознанию. Другая теория, теория глобального нейронного рабочего пространства, утверждает, что сознание возникает, когда независимые потоки информации проходят через узкое место и объединяются в рабочем пространстве, аналогичном компьютерному буферу обмена.
Теории более высокого порядка предполагают, что сознание включает в себя процесс представления и аннотирования основных входных данных, получаемых от органов чувств, – говорится в работе.
Другие теории подчеркивают важность механизмов контроля внимания и потребность в организме, который получает обратную связь от внешнего мира. Таким образом, из шести включенных теорий исследователи выделили 14 показателей сознательного состояния.
Сознание или простой алгоритм?
Авторы препринта пришли к выводу, что чем больше показателей проверяет архитектура искусственного интеллекта, тем больше вероятность того, что он обладает сознанием. Так, один из вариантов большой языковой модели, лежащей в основе ChatGPT, был близок к тому, чтобы продемонстрировать еще одну особенность – наличие глобального рабочего пространства, а
PaLM-E от Google, который получает входные данные от различных роботизированных датчиков, соответствовал критерию «свобода действий и воплощение». «Правда, заметить все это можно если как следует прищуриться», – отмечают эксперты.
Сегодня никто не может с уверенностью сказать что же такое сознание
Еще одна ИИ-система, а именно DeepMind, которая обучена управлять аватаром в моделируемом 3D-пространстве, также получила квалификацию “свобода действий и воплощение”, хотя у нее отсутствуют физические датчики, как у PaLM-E. Однако ни один из выбранных авторами работы ИИ не набрал несколько необходимых для наличия сознания пунктов.
Проблема всех подобных проектов, по мнению одного из авторов исследования, заключается в том, что все существующие теории основаны на нашем понимании человеческого сознания. Однако сознание может принимать и другие формы, как у других млекопитающих.
Если мы не знаем, какого это, быть кошкой или собакой, сможем ли мы понять, обладают ли ИИ-системы сознанием?
Авторы препринта отмечают, что их контрольный список находится в стадии разработки. К слову, они – не единственные энтузиасты в этой области. Сегодня все больше ученых активно вовлекаются в эту тему, параллельно работая над созданием все более мощных и умных ИИ-систем. Окончательная версия опубликованного препринта планируется к публикации в научном журнале в ближайшие месяцы.
