Президент Microsoft Брэд Смит излагает ключевые цели создания основы для ответственного ИИ
Коротко
Президент Microsoft Брэд Смит опубликовал в четверг сообщение в блоге, в котором подчеркивается важность ответственного ИИ.
В сообщении блога обсуждалась роль больших языковых моделей, таких как ChatGPT, и то, как они могут повлиять на общество.
Президент Microsoft Брэд Смит опубликовал блоге в четверг, подчеркнув важность ответственного ИИ.
Он подчеркнул убежденность компании в том, что искусственный интеллект (ИИ) может изменить мир к лучшему, но подчеркнул необходимость того, чтобы разработчики и организации обеспечивали разработку и использование систем ИИ с соблюдением этических норм. В сообщении блога обсуждалась роль больших языковых моделей, таких как ChatGPT, в формировании будущего ИИ и подчеркивалась необходимость тщательного изучения их влияния на общество.
По мере того, как выявляются этические проблемы в области ИИ и использования ChatGPT, Смит отметил, что языковые модели были обучены на огромном количестве данных и что важно убедиться, что они не увековечивают вредных предубеждений и неточностей.
Согласно информации изучение Кох, Дентон, Ханна и Фостер, более 50% набора данных, на котором обучается ИИ, поступает из 12 учреждений, большинство из которых расположены в США. При этом не учитываются наборы данных из Африки, Азии и Южной Америки, что приводит к сохранению западных этноцентрических культурных предубеждений.
По иронии судьбы, ChatGPT обучены людьми из этих регионов, известных как Глобальный Юг. Большая часть аннотаций, модерации контента, экспериментов и тестирования инвазивных приложений ИИ сделано в странах глобального Юга, где рабочим платят всего 11 центов в час.
Microsoft подчеркнула свою приверженность ответственному ИИ и рассказала о своих недавних инициативах, в том числе о создании в 2017 году Комитета по эфиру с исследователями, инженерами и экспертами по политике, чтобы сосредоточить усилия на разработке инструментов для обнаружения и устранения предвзятости в системах ИИ. Компания также обновила ответственная структура ИИ в прошлом году.
Компания также призвала другие организации и отдельных лиц уделять первоочередное внимание ответственному ИИ и работать вместе для создания более справедливого будущего. Смит обозначил три ключевые цели:
Обозначив свои ключевые цели в области ответственного ИИ, Microsoft присоединяется к таким учреждениям, как The Collaborative AI Responsibility Lab (CAIR Lab) — части Центра управления и рынков Питтсбургского университета, — чтобы увеличить внедрение ответственного ИИ путем объединения исследований с активизм.