OpenAI поднимает тревогу по поводу сверхразума и способности ИИ превзойти человеческие возможности в следующем десятилетии
Отредактировано и проверено фактами
Коротко
OpenAI призывает к регулированию сверхразума, подчеркивая необходимость управления в свете быстрого развития ИИ.
По прогнозам OpenAI, системы искусственного интеллекта превзойдут человеческий опыт и корпоративную производительность в течение десятилетия.
OpenAI подчеркивает важность общественного контроля и демократического контроля над мощными системами ИИ.
Чтобы улучшить ваше взаимодействие с местным языком, иногда мы используем плагин автоматического перевода. Обратите внимание, что автоперевод может быть неточным, поэтому читайте оригинал статья для точной информации.
Отредактировано и проверено фактами
OpenAI, создатель ChatGPT, сделал наводящий на размышления призыв к регулирование сверхразума, проводя параллели с регулированием ядерной энергетики. В недавнем блоге, OpenAI подчеркнула потенциальные последствия быстрого развития ИИ и подчеркнула насущную потребность в управлении в этой развивающейся среде. Компания заявила, что системы ИИ превзойдут экспертов и крупнейшие корпорации по производительности и навыкам в течение десяти лет.
«Мы также должны снизить риски, связанные с сегодняшними технологиями искусственного интеллекта, но сверхразум потребует особого отношения и координации», — подчеркнули Сэм Альтман, Грег Брокман и Илья Суцкевер из OpenAI.
Суперинтеллект описывает сущность, превосходящую общий человеческий интеллект или некоторые конкретные аспекты интеллекта. По мнению авторов, сверхразум ИИ будет иметь беспрецедентный уровень мощности, включающий в себя как положительные, так и отрицательные аспекты.
Развитие и риски неизбежного сверхразума
OpenAI определил три важные идеи, которые играют ключевую роль в успешном развитии сверхразума. К ним относятся координация между ведущими усилиями по развитию, создание международного органа, аналогичного Международному агентству по атомной энергии (МАГАТЭ), и развитие технических возможностей для обеспечения безопасности.
Хотя OpenAI признает, что системы ИИ сопряжены с рисками, эти риски сопоставимы с рисками, связанными с другими технологиями, связанными с Интернетом. Альтман, Брокман и Суцкевер также выражают уверенность в том, что нынешние подходы общества к управлению этими рисками являются подходящими. Однако основное беспокойство вызывают будущие системы, обладающие беспрецедентной мощностью.
«Напротив, системы, о которых мы беспокоимся, будут иметь мощность, превосходящую любую из когда-либо созданных технологий, и мы должны быть осторожны, чтобы не ослабить внимание к ним, применяя аналогичные стандарты к технологиям намного ниже этой планки», — говорится в сообщении в блоге.
Авторы утверждают, что мощные системы ИИ нуждаются в общественном надзоре и демократическом контроле. Они также объясняют, почему они создают эту технологию в OpenAI: чтобы создать лучший мир и избежать рисков, связанных с его остановкой. ИИ помогает в различных областях, включая образование, творчество и производительность, а также общий экономический рост.
OpenAI считает, что остановить создание сверхразума сложно и рискованно. Суперинтеллект имеет значительные преимущества, с каждым годом дешевеет, над ним работает все больше людей, и это часть технологического пути компании.
Ильман Шажаев, технический предприниматель в области искусственного интеллекта и соучредитель Лаборатории Фарканы, поделился несколькими комментариями по поводу новости. Прогнозы показывают, что, если не управлять им должным образом, сверхразум может стать одним из самых разрушительных изобретений человечества за все время. Однако разговоры о развертывании технологии по-прежнему вызывают разногласия, поскольку она еще не разработана. Стремление к остановке развития, основанное на страхе перед предсказаниями, может лишить человечество возможностей, которые могут быть в запасе у новой технологии.
«Подход к децентрализованному управлению OpenAI может помочь обеспечить его безопасность в целом. При правильных правилах программа может быть закрыта в случае, если она представляет угрозу. Если эти меры безопасности будут приняты, тогда Суперинтеллект может стать инновацией, которую стоит изучить», — сказал Шажаев.
Открыто обсуждая свои взгляды на сверхразум ИИ и предлагаемые меры регулирования, OpenAI, похоже, способствует информированным дискуссиям и предлагает различные точки зрения.
Сэм Альтман твердо верит в широкой доступности ИИ для общественности. Признавая, что невозможно предвидеть все проблемы заранее, он выступает за решение проблем на самой ранней стадии. Однако Альтман также подчеркивает важность независимого аудита таких систем, как ChatGPT, перед выпуском. Он также признает возможность реализации таких мер, как ограничение темпов создания новых моделей или создание комитета для оценки безопасности моделей ИИ перед их выпуском на рынок. Примечательно, что Альтман предсказывает, что количество разума во Вселенной будет удваиваться каждые 18 месяцев.
Прочитайте больше: