AGI: большие технологии США отвечают за будущее человечества

Коротко

Ведущие государства мира, их общественные и политические институты должны уделять приоритетное внимание безопасной разработке инструментов ИИ в ближайшие десять лет.

История показала, что когда силы, не входящие в правительство, получают жесткую политическую власть, они могут привести к анархии или неконтролируемой реакции государства.

Отвечает ли «большая технология» США за будущее человечества? От того, в чьих руках окажется ИИ, зависит, будет ли в ближайшие пять лет анархия революции или внеочередное закручивание гаек. ИИ, способный выполнять большинство когнитивных задач, на которые способны люди, будет разработан на Земле в течение следующих десяти лет.

Ведущие государства мира и их общественные и политические институты должны уделять первостепенное внимание обеспечению безопасной разработки чрезвычайно мощных инструментов искусственного интеллекта для общества в ближайшие десять лет. История показывает, что, когда силы вне правительства получают жесткую политическую власть, вы получаете либо а) анархию революции, либо б) неконтролируемую государственную реакцию, направленную на восстановление власти.

Джеймс Филлипс, исследователь в области искусственного интеллекта и бывший специальный советник по науке и технологиям, приводит этот аргумент в письмо правительству своего народа. Phillips обеспокоен тем, что европейские правительства передают контроль над разработкой AGI (ИИ общего назначения) нескольким американским частным компаниям.

«Агентские» виды ОИИ также могут представлять экзистенциальную угрозу безопасности человечества, и это развитие окажет беспрецедентное влияние на нашу цивилизацию». По словам Джеймса Филлипса, нынешний курс развития ОИИ по своей сути рискован.

Он продолжает, выделяя три метода сохранения демократического влияния на направление, в котором пойдет мир.

1. Получите национальную суперкомпьютерную инфраструктуру для ИИ на уровне лучших коммерческих лабораторий США.
2. Создайте консультативный совет исследователей (а не академических ученых), работающих на переднем крае разработки ИИ, чтобы определить наиболее важные исследовательские инициативы ИИ, которые будут запущены в этой инфраструктуре.
3. Создайте элитную государственную исследовательскую лабораторию под руководством лидера с техническими знаниями и деловой хваткой, чтобы создать исследовательскую программу для передовой практики разработки ИИ на национальном уровне.

Джеймс Филлипс приводит доводы в пользу дела в своем заключении:

Этот век является самым значительным в истории человечества, поскольку он знаменует собой начало интеллектуальной революции.

Нынешний курс развития ИИ неуправляем, загадочен и опасен.

У Великобритании есть возможность стимулировать развитие ИИ в позитивном ключе, но нынешнее научное руководство и институты упускают эту возможность более десяти лет.

На сегодняшнем беспощадном рынке наше конкурентное преимущество сходит на нет.

Наиболее важным фактором снова является то, что для развития ИИ требуются мощные суперкомпьютеры.

«К сожалению, в государственном секторе Великобритании в настоящее время имеется менее 1,000 отличных графических процессоров для искусственного интеллекта. Это указывает на то, что одна частная лаборатория в Калифорнии в настоящее время обучает одну модель, используя как минимум в 25 раз больше компьютерной мощности, чем доступно во всем мире».

Читайте больше статей по теме:

Источник