- Отчет показал, что 45% кода, сгенерированного AI, имели ошибки безопасности
- Java — худший преступник, Python, C# и JavaScript также затронут
- Увеличение кодирования настроения может усугубить эти угрозы
Почти половина (45%) кода, сгенерированного AI, содержит ошибки безопасности, хотя, кажется, готово произвести это новое исследование из VeraCode.
Исследование более 100 основных языковых моделей в 80 различных задачах кодирования не улучшило безопасность в более новых или более крупных моделях — тревожной реальности для компаний, которые полагаются на инструменты ИИ, чтобы обеспечить или даже заменить производительность человека.
Java была 70%+ наихудшего пострадавшего, но Python, C# и JavaScript также имели частоту ошибок от 38 до 45%.
Код, сгенерированный AI, не так безопасен
Новости приходят, что все больше и больше разработчиков зависят от генеративного искусственного интеллекта, чтобы помочь вам получить код в написании-третья от нового кода Google и Microsoft теперь можно генерировать с помощью ИИ.
«Рост кодирования вокальной мыши, в котором разработчики полагаются на ИИ, чтобы генерировать код без явно определяя требования безопасности, является фундаментальным сдвигом в создании программного обеспечения», — сказал технический директор Veracode Jens Wessling.
Veracode обнаружил, что LLMS часто решали неопределенные методы для кодирования в 45%случаев, которые не могли бы защищаться от сценариев между перекрестными (86%) и логарифмической инъекцией (88%).
«Наше исследование показывает, что модели лучше встречаются, но безопасность не улучшается», — добавил Уэссилинг.
Слабые стороны также подкрепляются в современную эпоху ИИ — искусственный интеллект позволяет злоумышленникам использовать их быстрее и в масштабе.
Veracode предполагает, что разработчики обеспечивают проверку безопасности в рабочих процессах, контролируемых AI, для обеспечения соблюдения и безопасности. Компании также должны ввести проблемы с ремонтом искусственного интеллекта для обучения разработчиков, использовать брандмауэры и использовать инструменты, которые можно использовать для записи ошибок ранее.
«Ассистент по кодированию ИИ и рабочие процессы агента представляют будущее разработки программного обеспечения … Безопасность не может быть последующей мыслью, если мы хотим предотвратить накопление огромных долгов безопасности», — заключил Уэссилинг.
Вы также могли бы понравиться
