Отредактировано и проверено фактами
Чтобы улучшить ваше взаимодействие с местным языком, иногда мы используем плагин автоматического перевода. Обратите внимание, что автоперевод может быть неточным, поэтому читайте оригинал статья для точной информации.
Благодаря достижениям в области искусственного интеллекта (ИИ) и технологии чат-ботов все больше компаний используют автоматизированные решения для обслуживания клиентов как средство улучшения качества обслуживания клиентов и снижения накладных расходов. Хотя использование моделей искусственного интеллекта и решений для чат-ботов имеет много преимуществ, также остаются различные риски и опасности, связанные с технологиями, особенно по мере того, как они становятся все более распространенными и интегрируются в нашу повседневную жизнь в ближайшее десятилетие.
На этой неделе все в Сенате США слушали, как Сэм Альтман говорил о регулировании и рисках моделей ИИ. Вот основное изложение:
Содержание:
биооружий
Отредактировано и проверено фактами
Использование искусственного интеллекта (AI) в разработке биологического оружия представляет собой опасно методичный и эффективный способ создания мощного и смертоносного оружия массового поражения. ЧатGPT-боты — это управляемые искусственным интеллектом голосовые помощники, способные вести реалистичные разговоры с людьми. Проблема с ботами ChatGPT заключается в том, что они могут использоваться для распространения ложной информации и манипулирования сознанием с целью влияния на общественное мнение.
Я предупредил о возможном неправомерном использовании ИИ при создании биологического оружия и подчеркнул необходимость регулирования для предотвращения таких сценариев.
Сэм Альтман
Регулирование является ключевым компонентом предотвращения неправомерного использования ИИ и ChatGPT боты в разработке и развертывании биологического оружия. Правительствам необходимо разработать национальные планы действий по устранению потенциального неправомерного использования технологии, а компании должны нести ответственность за любое потенциальное неправомерное использование их ботов AI и ChatGPT. Международным организациям следует инвестировать в инициативы, направленные на обучение, мониторинг и обучение ботов AI и ChatGPT.
Потеря работы
Прогнозируется, что вероятность потери работы из-за ИИ и ChatGPT в 2023 году будет в три раза выше, чем в 2020 году. ИИ и ChatGPT могут привести к усилению небезопасности на рабочем месте, этическим соображениям и психологическому воздействию на работников. ИИ и ChatGPT можно использовать для мониторинга поведения и действий сотрудников, что позволяет работодателям быстро принимать решения и не требует участия человеческого персонала. Кроме того, AI и ChatGPT могут привести к несправедливым и предвзятым решениям, которые могут привести к финансовой, социальной и эмоциональной незащищенности на рабочем месте.
Я подчеркнул, что развитие ИИ может привести к значительным потерям рабочих мест и усилению неравенства.
Сэм Альтман
Регулирование ИИ
В этой статье исследуется потенциальные риски и опасности, связанные с регулированием AI и ChatGPT в 2023 году. Методы AI и ChatGPT могут использоваться для выполнения потенциально вредоносных действий, таких как профилирование людей на основе их поведения и действий. Отсутствие надлежащего регулирования ИИ может привести к непредвиденным последствиям, таким как утечка данных или дискриминация. Регулирование ИИ может помочь снизить этот риск, установив строгие правила, гарантирующие, что Системы ChatGPT не используются злонамеренно. Наконец, ИИ и ChatGPT может стать контролирующим фактором в нашей жизни, контролируя такие вещи, как транспортный поток и финансовые рынки, и даже использоваться для влияния на нашу политическую и социальную жизнь. Чтобы предотвратить такой дисбаланс мощности, необходимо ввести строгие правила.
Мы предложили создать новое агентство по лицензированию и регулировать ИИ деятельности, если их возможности превышают определенный порог.
Сэм Альтман
Стандарты безопасности
Технологии искусственного интеллекта и чат-ботов способствуют прогрессу в том, как мы управляем своей повседневной жизнью. По мере того, как эти технологии становятся более совершенными, они могут стать автономными и принимать решения самостоятельно. Чтобы предотвратить это, Стандарты безопасности должно быть установлено, что эти модели должны соответствовать, прежде чем их можно будет развернуть. Одним из основных стандартов безопасности, предложенных Альтманом в 2023 году, является тест на самовоспроизведение, который гарантирует, что модель ИИ не сможет самовоспроизводиться без авторизации. Второй стандарт безопасности, предложенный Альтманом в 2023 году, — это тест на кражу данных, который гарантирует, что модели ИИ не смогут извлекать данные из системы без авторизации. Правительства во всем мире начали действовать, чтобы защитить граждан от потенциальных рисков.
Мы должны внедрить стандарты безопасности, которым модели ИИ должны соответствовать перед развертыванием, включая тесты на саморепликацию и кражу данных.
Сэм Альтман
Независимый аудит
В 2023 году потребность в независимых аудитах технологий ИИ и LLM становится все более важной. ИИ создает множество рисков, таких как неконтролируемые алгоритмы машинного обучения, которые могут изменять и даже удалять данные непреднамеренно, а кибератаки все чаще нацелены на ИИ и ChatGPT. Модели, созданные ИИ, содержат предвзятость, что может привести к дискриминации. Независимый аудит должен включать проверку моделирует ИИ обучен, дизайн алгоритма и выходные данные модели, чтобы убедиться, что она не отображает предвзятое кодирование или результаты. Кроме того, аудит должен включать обзор политик безопасности и процедур, используемых для защиты данные пользователя и обеспечить безопасную среду.
Независимые проверки должны проводиться для обеспечения того, чтобы модели ИИ соответствовали установленным стандартам безопасности.
Сэм Альтман
Без независимого аудита предприятия и пользователи подвергаются потенциально опасный и дорогостоящие риски, которых можно было бы избежать. Крайне важно, чтобы все предприятия, использующие эту технологию, перед развертыванием прошли независимый аудит, чтобы убедиться, что технология безопасна и этична.
ИИ как инструмент
ИИ развивался экспоненциально, и достижения, такие как GPT-4 привели к более реалистичному и сложному взаимодействию с компьютерами. Однако Альтман подчеркнул, что ИИ следует рассматривать как инструменты, а не как разумные существа. GPT-4 — это модель обработки естественного языка, которая может генерировать контент, почти неотличимый от контента, написанного человеком, отнимая часть работы от писателей и позволяя пользователям иметь более человеческий опыт работы с технологиями.
AI, особенно передовые модели, такие как GPT-4, следует рассматривать как инструменты, а не разумные существа.
Сэм Альтман
Однако Сэм Альтман предупреждает, что слишком большой акцент на ИИ как на чем-то большем, чем инструмент, может привести к нереалистичным ожиданиям и ложным представлениям о его возможностях. Он также указывает, что ИИ не лишен этических последствий, и что даже если продвинутые уровни ИИ можно использовать во благо, его все же можно использовать во зло, что приведет к опасному расовому профилированию. нарушения конфиденциальностии даже угрозы безопасности. Альтман подчеркивает важность понимания того, что ИИ — это всего лишь инструмент, и что его следует рассматривать как инструмент для ускорения человеческого прогресса, а не для замены людей.
Сознание ИИ
Споры об ИИ и о том, может ли он достичь сознательного осознания, нарастают. Многие исследователи утверждают, что машины не способны испытывать эмоциональные, ментальные или сознательные состояния, несмотря на их сложную вычислительную архитектуру. Некоторые исследователи допускают возможность достижения ИИ осознания. Главный аргумент в пользу такой возможности заключается в том, что ИИ построен на программах, которые делают его способным воспроизводящий определенные физические и психические процессы, происходящие в человеческом мозгу. Однако главный контраргумент состоит в том, что у ИИ нет реального эмоционального интеллекта.
Хотя ИИ следует рассматривать как инструмент, я признаю, что в научном сообществе продолжаются дебаты относительно потенциального сознания ИИ.
Сэм Альтман
Многие исследователи ИИ согласны с тем, что нет научных доказательств того, что ИИ способен достичь сознательного осознания так же, как это может сделать человек. Elon Musk, один из самых ярых сторонников этой точки зрения, считает, что возможности ИИ имитировать биологические формы жизни чрезвычайно ограничены, и следует уделять больше внимания обучению машин этическим ценностям.
Военные Приложения
ИИ в военном контексте быстро развивается и может улучшить методы ведения боевых действий военными. Ученые обеспокоены тем, что ИИ в вооруженных силах может создать ряд этических проблем и проблем, связанных с рисками, таких как непредсказуемость, непросчитываемость и отсутствие прозрачности.
Я признаю потенциал использования ИИ в военных приложениях, таких как автономные дроны, и призываю правила, регулирующие такое использование.
Сэм Альтман
Системы ИИ уязвимы для злоумышленников, которые могут либо перепрограммировать системы, либо проникнуть в них, что может привести к разрушительным последствиям. Для решения этих проблемы, международное сообщество сделало первый шаг в виде своей Международной конвенции о конкретных видах обычного оружия 1980 года, которая налагает определенные запреты на использование определенных видов оружия. Эксперты по ИИ выступают за создание Международного комитета для контроля за такими процессами, как оценка, обучение и развертывание ИИ в военных приложениях.
AGI
Технологии искусственного интеллекта становятся все более совершенными и широко распространенными, поэтому важно понимать потенциальные риски, связанные с агентами и системами искусственного интеллекта. Первый и наиболее очевидный риск, связанный с агентами ИИ, заключается в том, что машины могут перехитрить людей. Агенты ИИ могут легко превзойти своих создателей, взяв на себя принятие решений, процессы автоматизации и другие сложные задачи. Кроме того, автоматизация на основе ИИ может увеличить неравенство, поскольку она заменяет людей в рынок труда.
Я предупреждаю, что более мощные и сложные системы искусственного интеллекта могут быть ближе к реальности, чем многие думают, и подчеркиваю необходимость обеспечения готовности и превентивных мер.
Сэм Альтман
Алгоритмы ИИ и их использование в процессе принятия сложных решений вызывают озабоченность по поводу отсутствия прозрачности. Организации могут снизить риски связаны с агентами ИИ, активно гарантируя, что ИИ разрабатывается с соблюдением этических норм, используя данные, соответствующие этическим стандартам, и подвергая алгоритмы рутинным проверкам, чтобы убедиться, что они не предвзяты и несут ответственность перед пользователями и данными.
Заключение
Альтман также заявил, что, хотя мы не можем управлять Китаем, мы должны вести с ним переговоры. Предлагаемые критерии оценки и регулирующие модели ИИ включают возможность синтезировать биологические образцы, манипулирование убеждениями людей, количество затрачиваемой вычислительной мощности и так далее.
Важной темой является то, что у Сэма должны быть «отношения» с государством. Мы надеемся, что они не последуют примеру Европы, как мы упоминали ранее.
Часто задаваемые вопросы
Каковы риски ИИ?
Риски ИИ включают в себя возможность того, что системы ИИ будут демонстрировать предвзятое или дискриминационное поведение, могут использоваться злонамеренно или ненадлежащим образом или работать неправильно, причиняя вред. Разработка и внедрение технологий искусственного интеллекта могут создавать риски для конфиденциальности и безопасности данных, а также для безопасности людей и систем.
Каковы пять основных рисков ИИ?
Пять основных рисков, связанных с ИИ: потеря работы, Безопасность, Предвзятость или дискриминация, Биологическое оружие и ОИИ.
Что является самым опасным аспектом ИИ?
Самым опасным аспектом ИИ является его способность вызывать массовую безработицу.