- Genai может галлюцинировать открытые имена пакетов, эксперты предупреждают
- Это не всегда галлюцинирует другое имя
- Киберпреступники могут использовать имена для регистрации вредоносных программ
Исследователи безопасности предупредили о новом методе, с помощью которого генеративный Ki (Genai) может быть использован в киберпреступности, известной как «Слопваттинг».
Это начинается с различных инструментов Genai, таких как чат GPT, Copilot и другие. В контексте ИИ «галлюцинация» — это просто когда ИИ просто захватывает вещи. Это может сделать цитату, которую человек никогда не говорил, событие, которое никогда не было, или — в разработке программного обеспечения — программный пакет с открытым исходным кодом, который никогда не был создан.
Ну, по словам Сары Гудинг из ГнездоМногие разработчики программного обеспечения полагаются на Genai при написании кода. Инструмент может написать сами строки или предложить различные пакеты для загрузки и включить продукт.
Галлюцинирующие вредоносные программы
В отчете добавляется, что ИИ не всегда галлюцинирует другое имя или другое пакет — некоторые вещи повторяются.
«Когда триггер галлюцинации десятилетних снова произошел, 43% галлюцинированных пакетов повторялись каждый раз, в то время как 39% никогда не появлялись», -говорится в нем.
«В общей сложности 58% галлюцинированных пакетов были повторены более одного раза в десяти пробегах, что указывает на то, что большая часть галлюцинаций не только случайным образом, но и повторяемые артефакты о том, как модели реагируют на определенные запросы ввода».
На данный момент это чисто теоретически, но, по -видимому, киберпреступники могут отображать различные пакеты, которые галлюцинировали и регистрируют их на открытых платформах.
Когда разработчик получает предложение и посещает GitHub, PYPI или тому подобное, он находит упаковку и устанавливает его счастливым, не зная, что он злокачествен.
К счастью, во время прессы в дикой природе нет подтвержденных случаев уклона, но это точно, что это только вопрос времени. Ввиду того факта, что галлюцинированные имена могут быть опубликованы, мы можем предположить, что исследователи безопасности наконец -то узнают их.
Лучший способ защитить от этих атак — быть осторожным, когда дело доходит до принятия предложений от кого -то, кто живет или каким -либо другим способом.
Вы также могли бы понравиться
