Изображение: AI
Программы, которые помогают людям писать код с помощью искусственного интеллекта, становятся всё популярнее. Они умеют подсказывать, как решить задачу, или сразу предлагают готовый кусок кода. Это удобно, потому что работа идёт быстрее. Но у такого подхода есть своя опасная сторона, о которой раньше почти не задумывались.
Дело в том, что такие помощники иногда придумывают названия библиотек, которых на самом деле не существует. Эти ошибки называются «галлюцинациями». Раньше это просто приводило к тому, что программа не устанавливалась. Сейчас хакерские группироваки начали использовать эти ошибки в своих целях. Они заранее создают пакеты с теми самыми вымышленными именами, содержащими вредоносный код и загружают их в общие хранилища. В итоге, когда кто-то копирует код с такой ошибкой и запускает его, вместо настоящей библиотеки устанавливается вредоносная программа.
Китайский апгрейд для российского ИИ
Особенно опасно, что некоторые имена появляются снова и снова. Это значит, что шанс наткнуться на вредный пакет вырастает. Таких имён немного, но именно их чаще всего используют для обмана. Выглядят такие подделки вполне убедительно: с описаниями, сайтами и даже блогами, которые «подтверждают», что всё легально.
Ситуация усложняется тем, что одни программы на основе искусственного интеллекта начинают подтверждать вымышленные данные, предложенные другими. Если одна подсказала придуманный пакет, другая может сказать, что этот пакет хороший и надёжный. Разработчики, спеша, могут не заметить подвоха и установить опасный код.
Хакеры целенаправленно используют искусственный интеллект для создания целых наборов вредных пакетов. Они автоматически придумывают имена, похожие на настоящие, загружают их и даже обучают других делать то же самое. Такие пакеты часто маскируются под популярные библиотеки, особенно в области шифрования и безопасности.
Чтобы бороться с этим, разрабатываются новые способы проверки пакетов и создаются инструменты, которые помогают обнаруживать подделки. Эксперты рекомендуют заранее скачивать и хранить проверенные библиотеки в отдельных хранилищах внутри компаний. Это даёт возможность контролировать, что именно устанавливают разработчики.
Так или иначе, использование искусственного интеллекта в программировании уже сейчас сильно влияет на работу специалистов. Вместе с удобством приходят новые опасности, о которых важно помнить. Если бездумно доверять подсказкам и не проверять всё самому, можно случайно впустить вредоносные программы. Поэтому безопасная работа с такими инструментами — это не только дело технологий, но и постоянного контроля. Почему критически важно защищать данные Цифровые двойники в строительстве. Эффективность, проблемы и перспективы Вышло глобальное обновление системы централизованного управления РЕД АДМ Промышленная редакция 2.0