Защита больших языковых моделей (LLM) от киберугроз — следующая серьезная задача для компаний, занимающихся искусственным интеллектом (ИИ), таких как OpenAI, Microsoft и Meta.

Ананд Эсваран, исполнительный директор компании Veeam Software, занимающейся безопасностью и отказоустойчивостью данных, сказал, что компании «весьма обеспокоены» угрозами безопасности со стороны ИИ, «но они не думают о том, что им нужно сделать правильно».

«OpenAI, Meta, Microsoft и все другие компании, которые создают эти огромные LLM для публичного использования, должны подумать о… что значит защитить LLM, чтобы преступники не загрязняли его, не вызывали галлюцинаций и плохих результатов», — Эсваран сказал.

«Общедоступные модели с открытым исходным кодом и общедоступные потребительские модели искусственного интеллекта должны пройти путь. В противном случае вы увидите поврежденные модели, ведущие к плохим результатам. Это может быть так же просто, как дискриминация, которая происходит, когда вы используете модель искусственного интеллекта, скажем, для одобрения кредита», — сказал он в эксклюзивном разговоре с ET в кулуарах мероприятия VeeamON India Tour в прошлом месяце.

Veeam Software предоставляет решения по обеспечению устойчивости данных, обеспечивая резервное копирование, восстановление, безопасность и аналитику для корпоративных клиентов.


Угрозы возросли

Откройте для себя истории, которые вас интересуют

Согласно опросу Veeam, в 2023 году 75% мировых компаний столкнулись с инцидентами с программами-вымогателями, и 81% из них решили заплатить выкуп. Но каждая третья компания так и не смогла восстановить свои данные даже после оплаты.

В частности, в регионе APJ (Азиатско-Тихоокеанский регион и Япония) 29% атакованных организаций не смогли восстановить свои данные даже после уплаты выкупа.

Он подчеркнул, что у Microsoft 365 450 миллионов пользователей по всему миру, из которых 55 миллионов в настоящее время защищены. Это открывает Veeam возможности роста на миллиарды долларов.

ЧИТАТЬ  Что такое QLED-телевизор? Объяснение технологии отображения квантовых точек | Цифровые тенденции

«Наша доля на рынке защиты Microsoft 365 от фишинга и угроз электронной почты составляет 40 %, которые являются наиболее распространенными односторонними угрозами для организаций. Только 13–14% пользователей Microsoft 365 во всем мире защищены, но ситуация меняется».

Veeam была основана в 2006 году и приобретена Insight Partners в 2020 году за 5 миллиардов долларов. В апреле 2024 года Veeam приобрела компанию Coveware, занимающуюся реагированием на инциденты, связанные с программами-вымогателями, а в сентябре 2024 года приобрела Alcion, стартап по управлению данными на основе искусственного интеллекта.

Veeam завершила 2023 календарный год с доходом в 1,5 миллиарда долларов и претендует на звание ведущего партнера по защите Microsoft 365, охватывающего 20 миллионов пользователей. «В следующем году мы достигнем дохода в размере более 2 миллиардов долларов и продолжим наш многомиллиардный путь», — сказал Эсваран.

Компания из Сиэтла начала свою деятельность в Индии в 2014 году и продолжает расти. Герой Мото КорпMahindra Group и Future Generali теперь входят в число ее клиентов. Имеет 700 партнеров, включая реселлеров; Альянсы с глобальными системными интеграторами, независимыми поставщиками программного обеспечения, облачными провайдерами и т. д.

Впереди есть подводные камни

По словам Эсварана, Индия входит в тройку крупнейших развивающихся рынков с темпами роста 45%.

«Индия еще дальше продвинулась вперед с точки зрения видения цифровой трансформации. Цифровые транзакции, электронная коммерция, умные города и т. д. генерируют огромные объемы данных по всем направлениям. Лично для меня Индия важна, потому что мы инвестируем в людей, ресурсы, функции, исследования и разработки».

Он пояснил, что ни одна компания в сфере безопасности не может претендовать на роль игрока в сфере сквозной защиты.

ЧИТАТЬ  Отчет: взгляды на аудиторию Tik Tok

«Даже если вы посмотрите на разницу между CrowdStrike, Palo Alto и Splunk, все они имеют дело с разными аспектами стека безопасности. Мы работаем со всеми. Что особенного в нас, так это то, что мы не претендуем на роль поставщика сквозной безопасности. Нашей основной задачей является защита, восстановление, переносимость данных и анализ данных».

Он сказал, что Veeam превзошла мировых лидеров, таких как Dell, Veritas и IBM. «За последние четыре года мы поднялись с четвертого места на первое. В декабре 2022 года мы заняли первое место на рынке».

Также читайте: Ставка Индии на GenAI: выход за рамки LLM?

Source