«Крестный отец искусственного интеллекта» Джеффри Хинтон покидает Google
В течение полувека Джеффри Хинтон работал над технологией, на которой основан ChatGPT. Он заявил о потенциальных опасностях технологии.
Джеффри Хинтон был пионером в исследовании искусственного интеллекта. В 2012 году он и двое его аспирантов в Университете Торонто создали технологию, которая стала интеллектуальной основой для систем искусственного интеллекта, которые, по мнению крупнейших компаний технологической отрасли, являются ключом к их будущему.
Однако в понедельник он официально присоединился к растущему хору критиков, которые говорят, что эти компании мчатся навстречу опасности своей агрессивной кампанией по созданию продуктов на основе генеративного искусственного интеллекта, технологии, которая лежит в основе ChatGPT.
Доктор Хинтон сказал, что уволился из Google, где он проработал более десяти лет, поэтому может свободно говорить о рисках, связанных с искусственным интеллектом. Теперь он сожалеет о работе всей своей жизни: «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
Лидеры отрасли считают, что новые системы искусственного интеллекта могут иметь такое же значение, как появление веб-браузера в начале 1990-х годов, и могут привести к прорыву в самых разных областях, от здравоохранения до образования.
Однако общество уже сталкивается с негативными последствиями распространения искусственного интеллекта. Так, генеративный ИИ уже может быть инструментом дезинформации.
После того, как в марте OpenAI выпустил новую версию ChatGPT, более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ представляют «серьезные риски для общества».
Несколько дней спустя 19 лидеров Ассоциации по развитию искусственного интеллекта, академического общества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ. В эту группу входили Эрик Хорвиц, главный научный сотрудник Microsoft, которая внедрила технологию OpenAI в широкий спектр продуктов, включая поисковую систему Bing .
Хинтон, которого часто называют «крестным отцом ИИ», не подписал ни одно из этих писем и сказал, что не хочет публично критиковать Google или другие компании, пока не уволится.
В прошлом месяце он уведомил компанию о том, что уходит в отставку, а в четверг он разговаривал по телефону с Сундаром Пичаи, исполнительным директором материнской компании Google, Alphabet. Он отказался публично обсуждать детали своего разговора с г-ном Пичаи.
Главный научный сотрудник Google Джефф Дин заявил: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».
В 1978 году Джеффри Хинтон получил докторскую степень в Эдинбургском университете в области искусственного интеллекта. В 1980-х годах Хинтон стал профессором в Университете Карнеги-Меллона, но уехал из в Канаду, потому что, по его словам, он не хотел получать финансирование от Пентагона. В то время большинство исследований ИИ в США финансировалось Минобороны. Хинтон категорически против использования искусственного интеллекта в военных целях.
В 2012 году доктор Хинтон и двое его студентов в Торонто, Илья Суцкевер и Алекс Кришевский, создали нейронную сеть, которая могла анализировать тысячи фотографий и обучалась идентифицировать обычные объекты.
Google потратил $44 млн на приобретение компании, основанной доктором Хинтоном и его студентами. И их система привела к созданию все более мощных технологий, включая новые чат-боты, такие как ChatGPT и Google Bard . Г-н Суцкевер стал главным научным сотрудником OpenAI. В 2018 году доктор Хинтон и два других давних сотрудника получили премию Тьюринга, которую часто называют «Нобелевской премией в области вычислительной техники», за свою работу над нейронными сетями.
Примерно в то же время Google, OpenAI и другие компании начали создавать нейронные сети, которые обучались на огромном количестве цифрового текста. Доктор Хинтон считал, что это мощный способ машин понимать и генерировать язык, но он уступает тому, как люди обращаются с языком.
Затем, в прошлом году, когда Google и OpenAI создавали системы, использующие гораздо большие объемы данных, его мнение изменилось. Он по-прежнему считал, что в некоторых отношениях эти системы уступают человеческому мозгу, но, c другой стороны, они превосходят человеческий разум.
Он считает, что по мере того, как компании совершенствуют свои системы искусственного интеллекта, они становятся все более опасными.
По его словам, до прошлого года Google старалась не выпускать продукты, которые могли бы стать источником угроз. Но теперь, когда Microsoft дополнила Bing чат-ботом, Google планирует сделать то же самое. По словам Хинтона, технологические гиганты вовлечены в конкуренцию, которую невозможно остановить.
Интернет будет наводнен фальшивыми фотографиями, видео и текстом, и обычный человек «больше не сможет узнать, где правда».
Он также обеспокоен тем, что технологии искусственного интеллекта со временем перевернут рынок труда.
Также отдельные лица и компании позволяют системам ИИ не только генерировать свой собственный компьютерный код, но и фактически запускать этот код самостоятельно. И он боится того дня, когда действительно автономное оружие — «роботы-убийцы» — станет реальностью.
Однако некоторые эксперты, в том числе многие его ученики и коллеги, считают угрозы ИИ гипотетическими. Но Хинтон считает, что гонка между технологическими гигантами перерастет в мировую гонку, которая не остановится без глобального регулирования.
По его словам, в отличие от ядерного оружия, невозможно узнать, работают ли компании или страны над этой технологией.