Президент Microsoft Брэд Смит излагает ключевые цели создания основы для ответственного ИИ

Коротко

Президент Microsoft Брэд Смит опубликовал в четверг сообщение в блоге, в котором подчеркивается важность ответственного ИИ.

В сообщении блога обсуждалась роль больших языковых моделей, таких как ChatGPT, и то, как они могут повлиять на общество.

Президент Microsoft Брэд Смит опубликовал блоге в четверг, подчеркнув важность ответственного ИИ. 

Он подчеркнул убежденность компании в том, что искусственный интеллект (ИИ) может изменить мир к лучшему, но подчеркнул необходимость того, чтобы разработчики и организации обеспечивали разработку и использование систем ИИ с соблюдением этических норм. В сообщении блога обсуждалась роль больших языковых моделей, таких как ChatGPT, в формировании будущего ИИ и подчеркивалась необходимость тщательного изучения их влияния на общество. 

По мере того, как выявляются этические проблемы в области ИИ и использования ChatGPT, Смит отметил, что языковые модели были обучены на огромном количестве данных и что важно убедиться, что они не увековечивают вредных предубеждений и неточностей.

Согласно информации изучение Кох, Дентон, Ханна и Фостер, более 50% набора данных, на котором обучается ИИ, поступает из 12 учреждений, большинство из которых расположены в США. При этом не учитываются наборы данных из Африки, Азии и Южной Америки, что приводит к сохранению западных этноцентрических культурных предубеждений. 

По иронии судьбы, ChatGPT обучены людьми из этих регионов, известных как Глобальный Юг. Большая часть аннотаций, модерации контента, экспериментов и тестирования инвазивных приложений ИИ сделано в странах глобального Юга, где рабочим платят всего 11 центов в час.

Microsoft подчеркнула свою приверженность ответственному ИИ и рассказала о своих недавних инициативах, в том числе о создании в 2017 году Комитета по эфиру с исследователями, инженерами и экспертами по политике, чтобы сосредоточить усилия на разработке инструментов для обнаружения и устранения предвзятости в системах ИИ. Компания также обновила ответственная структура ИИ в прошлом году.

Компания также призвала другие организации и отдельных лиц уделять первоочередное внимание ответственному ИИ и работать вместе для создания более справедливого будущего. Смит обозначил три ключевые цели:

Обеспечение ответственного и этичного создания и использования ИИ. Это включает в себя демократические процессы законотворчества для участия в обсуждениях защиты ИИ в соответствии с законом, а также потребность в ориентированных на результат и надежных правилах ИИ, совместимых и адаптивных.

Повышение международной конкурентоспособности и национальной безопасности с помощью ИИ. Это означает признание роли США и других стран, приверженных демократическим ценностям, в поддержании технологического лидерства. «Благодаря сочетанию OpenAI и Microsoft, а также DeepMind в Google Соединенные Штаты имеют хорошие возможности для сохранения технологического лидерства», — написал Смит в своем блоге.

Обеспечение того, чтобы ИИ широко служил обществу, расширяя возможности работников и студентов и способствуя справедливому и инклюзивному экономическому росту; преодоление климатического кризиса и содействие развитию экологически чистых энергетических технологий.

Обозначив свои ключевые цели в области ответственного ИИ, Microsoft присоединяется к таким учреждениям, как The Collaborative AI Responsibility Lab (CAIR Lab) — части Центра управления и рынков Питтсбургского университета, — чтобы увеличить внедрение ответственного ИИ путем объединения исследований с активизм.

Источник