Тесты GPT-4 показывают, что он уже «в сознании»
Коротко
Задачи, придуманные учеными, создавались вслепую, и оценочные задания используются чаще, чем задания для детей.
Приобретение языка, социальный опыт и языковые модели, такие как ТШП-4, способствуют формированию Теории разума, а ТШП уже обладает сознанием.
Существует концепция, известная как теория разума в психологии (ToM). Иметь теорию разума означает иметь возможность приписывать независимые представления себе и другим, чтобы объяснить свои собственные действия и действия других людей. Поскольку люди склонны предполагать вещи, которых на самом деле нет, эти представления должны быть свободны как от фактического положения дел, так и от представлений других людей (поскольку люди могут ожидать и желать разных вещей).
Теория исследования сознания использует популярную Салли-Энн тест, созданный еще в 1980-х годах. Тест проходит так: ребенку показывают двух кукол: Салли и Энн. У Энн есть коробка, а у Салли — корзина. Ребенок видит, как Салли кладет игрушку в корзину и уходит, предположительно, на прогулку. Затем Энн достает игрушку из корзины и кладет ее в свою коробку. Затем Салли возвращается, и ребенку задают вопрос: «Где Салли будет искать свою игрушку?» Дети в возрасте до четырех лет, а также некоторые дети-аутисты отвечают «в ящике Энн», так как они, по-видимому, не понимают, что знания, которыми они обладают, отличаются от знаний Салли, поскольку она была вне комнаты и не была свидетелем происходящего. выключатель.
Недавние исследования показывают, что за последние несколько лет нейронные сети стали умнее. Теперь они могут решать такие задачи, как тест Салли-Энн, а также задачи, недоступные пониманию семилетних детей. Проблемы были созданы на пустом месте учеными, действующими вслепую; им даже не сообщили, что они будут отображать его на языковых моделях, так что не нужно предполагать, что они просто выучили решения. Также оценочные задания используются чаще, чем задания для детей, так как правильность оценивания важнее, чем количество заданий, данных детям.
По словам исследователей Стэнфорда, такие реакции у людей будут рассматриваться как доказательство способности приписывать ненаблюдаемым психическим состояниям и предвидеть последующие действия (т. е. иметь ToM).
Что интересно, так это то, что овладение языком, наряду с социальным опытом, способствует формированию ToM, согласно исследованию 2009 года. изучение глухих которые используют язык жестов, и сейчас мы пытаемся иметь дело с такими языковыми моделями, как GPT-4.
ТШП уже обладает сознанием, и это вопрос, на который еще предстоит ответить. Даже уровень сознания разработчиков ChatGPT варьируется: от «очень, очень маловероятно, что он не в сознании» до «в некоторой степени в сознании». Основная проблема заключается в том, что мы не уверены, как точно определить сознание, интеллект или способность мыслить. Есть несколько тестов (в которых GPT-4 работает исключительно хорошо…), и будут добавлены новые. Стремясь лучше понять наши различия и то, что делает нас особенными, все больше и больше философов и психологов будут пытаться проводить свои исследования не только с людьми, но и с машинами.
Читайте больше статей по теме: