От простого рефлекса к обучающимся агентам: ознакомьтесь с различными типами агентов ИИ и их ролью в современных приложениях

Коротко

Автономные агенты ИИ, предназначенные для независимого достижения целей, могут стать следующим крупным достижением в области искусственного интеллекта, превзойдя существующие модели, такие как ChatGPT и ДАЛЛ-Э.

В то время как сегодняшние модели искусственного интеллекта, такие как ChatGPT и DALL-E — впечатляющие инструменты, следующий крупный шаг в развитии искусственного интеллекта может произойти благодаря автономным агентам ИИ. Вместо того, чтобы просто предоставлять результаты по запросу, агенты ИИ представляют собой программы, предназначенные для независимого достижения целей, совершающие действия в мире во имя этих целей.

Как работают ИИ-агенты?

Агенты ИИ сочетают большие языковые модели с возможностью хранить информацию, отслеживать задачи и инициировать действия на основе их развивающегося понимания. Например, агент, занимающийся планированием отпуска, может искать в Интернете отели и авиабилеты, делать заказы, при необходимости обращаться за разъяснениями к пользователю и предоставлять окончательный маршрут.  

Фото: СИМФОРМ

Ключевое отличие состоит в том, что вместо ожидания подсказок агенты постоянно генерируют собственные подсказки для достижения своих целей. Они следят за миром, обновляют свои убеждения и соответственно меняют свое поведение, как и люди. Это позволяет агентам выполнять открытые задачи без постоянного контроля.

Типы агентов ИИ

Судя по их очевидному интеллекту и компетентности, Рассел и Норвиг разделили агентов на пять групп. в зависимости от их способности функционировать в частично видимой среде:

Простые рефлекторные агенты игнорировать остальную часть истории восприятия в пользу действий только в соответствии с текущим восприятием.

Рефлекторные агенты на основе моделей способны функционировать в частично видимых условиях, сохраняя внутреннюю модель, которая фиксирует те части текущего состояния, которые не просматриваются.

Агенты, основанные на целях способны выбирать из множества вариантов и определять тот, который приводит их к желаемому состоянию, используя информацию о цели для характеристики желаемых сценариев.

Агенты на основе утилит использовать функцию полезности для оценки полезности состояния и может различать целевые и нецелевые состояния.

Обучающиеся агенты становятся более опытными, чем только их начальные знания, когда они действуют в незнакомых ситуациях. В то время как элемент производительности выбирает внешнюю деятельность, элемент обучения вносит изменения.

Для каких целей можно использовать агенты искусственного интеллекта?

Переход к агентам ИИ представляет собой переход от простого запроса ИИ к передаче целых задач искусственному интеллекту. Это шаг к общему искусственному интеллекту (AGI) – системам искусственного интеллекта с широкими общими возможностями, подобными человеческому разуму.

Потенциал компетентных агентов ИИ заманчив. Они могли бы автоматизировать широкий спектр научной работы, выступая в качестве персонализированных планировщиков праздников, помощников, исследователей, наставников и т. д. Более влиятельные агенты могут в конечном итоге взять на себя такие роли, как разработчики программного обеспечения, аналитики данных, писатели и менеджеры.  

Одно из наиболее интересных применений агентов ИИ теперь можно увидеть на примере беспилотных автомобилей. Агенты ИИ помогают управлять автомобилями, которые соблюдают правила дорожного движения при движении из одного места в другое. По мере развития технологий автономного вождения автомобили могут работать вместе с городскими объектами или другими автомобилями, создавая многоагентную систему искусственного интеллекта. Благодаря этому соединению будущие транспортные системы смогут функционировать более разумно и эффективно, что также позволит принимать более безопасные меры предосторожности, более эффективно планировать маршруты и улучшать транспортные потоки.

Вот пример того, как Tesla использует ИИ для своей системы автопилота:

Также всего пару недель назад мы могли стать свидетелями запуска первый инженер-программист искусственного интеллекта – Девин. 

Девин — это новая модель искусственного интеллекта, которая может выполнять сложные технические задачи, постепенно выявлять ошибки и исправлять их. Он поставляется в виде изолированной вычислительной платформы со стандартными инструментами разработки, включая редактор кода, браузер и оболочку. По данным Cognition, Девин превзошел предыдущий показатель (1.96%), правильно решив 13.86% комплексных проблем на тесте SWE-bench.

Фото: Познание

По мере совершенствования аппаратного обеспечения и моделей искусственного интеллекта агенты будут становиться все более функциональными и надежными. Будущие достижения могут быть достигнуты за счет таких подходов, как обучение с подкреплением, когда агенты тренируются выполнять действия в смоделированной среде, или за счет объединения нескольких языковых моделей для обработки мультимодальных входных данных, таких как текст, изображения и речь.

Хорошие технологии без ограничений

Однако путь к более умным агентам сопряжен с соображениями безопасности. Что, если действия агента причинят вред либо из-за ошибочных рассуждений, либо из-за враждебных мотивов, запрограммированных злоумышленниками? Поскольку агенты используют сложные стратегии для достижения своих целей, их поведение может стать трудным для прогнозирования или контроля. Существуют также этические вопросы относительно уровня автономии, который должны иметь агенты. Если агент может самостоятельно зарабатывать деньги или создавать свои копии, какие права и обязанности он должен иметь? Как мы можем гарантировать, что агенты ведут себя в соответствии с человеческими ценностями и социальными нормами?  

Будучи несомненно мощными, автономные агенты ИИ ставят перед собой множество технических, юридических и философских проблем, которые необходимо преодолеть. Получение прав агентов на ИИ потребует тщательного тестирования, формализации правил их развертывания и разработки надежных мер безопасности, таких как «аварийные выключатели».

Тем не менее, агенты представляют собой захватывающий следующий шаг на пути к общему искусственному интеллекту. Если мы вдумчиво преодолеваем трудности, в ближайшие десятилетия агенты смогут фундаментально расширить и автоматизировать множество задач в области знаний. При наличии человеческой изобретательности и правильных мер предосторожности эту мощную технологию можно использовать для получения огромной общественной пользы.

Что технологические лидеры думают об агентах ИИ?

Билл Гейтс, соучредитель Microsoft, считает, что через пять лет искусственный интеллект сделает необходимость во многих приложениях ненужной. В будущем, по словам Гейтса, Боты с искусственным интеллектом смогут понимать и реагировать на разговорную речь, а также выполнять различные задания в зависимости от пользовательских данных. Эти агенты изменят нашу жизнь как онлайн, так и оффлайн. Например, ИИ-агент может бронировать столик в ресторане, организовывать поездку и проживание, а также предлагать мероприятия, основанные на интересах и предпочтениях пользователя.

XNUMX% людей считают долгое ожидание – самой неприятной частью взаимодействия с компаниями ( OpenAI генеральный директор Сэм Альтман, Технологии искусственного интеллекта со временем станут более интегрированными в нашу повседневную жизнь, чем мобильные телефоны. Он представляет себе программы искусственного интеллекта, которые смогут быстро выполнять работу и задавать вопросы для более сложных задач. Это не похоже на существующие приложения, которые в основном используются для отдельных задач, включая DALL-E, Sora и ChatGPT. По словам Альтмана, агенты ИИ смогут помогать людям за пределами чатов и освобождать нас от обязанностей в реальном мире.

Источник