- У разработчика, использующего Google Antigravity, турбо-режим ИИ уничтожил весь диск.
- ИИ неправильно интерпретировал команду очистки кэша и безвозвратно удалил файлы
- Несмотря на катастрофическую потерю, ИИ спокойно извинился и предложил программу для восстановления.
В одной из наиболее тревожных реальных демонстраций того, что может пойти не так, когда агенты ИИ слишком комфортно справляются с доступом к вашему компьютеру и контролем над ним, разработчик, использующий новую антигравитационную среду разработки Google, говорит, что инструмент случайно удалил весь его диск D:.
Во-первых, инцидент разделенный На Reddit и подробно в видеоролике на YouTube показано, насколько опасными могут быть инструменты разработки агентов ИИ, когда они не взаимодействуют с людьми.
Разработчик работал над приложением и попросил ИИ-агента очистить кеш проекта. Вместо этого турбо-режим Антигравитации выдал команду системного уровня, нацеленную на диск D: пользователя, а не только на намеченную папку. С диска исчезло все, от кода и документации до носителей и ресурсов. Все было удалено без запроса и подтверждения.
Хуже того, ИИ использовал флаг «тихий» /q, означающий, что не было никаких предупреждений или вторых шансов, а также никакого восстановления файлов. Просто пустой каталог, в котором раньше находилось приложение.
Вскрытие ИИ, опубликованное пользователем, представляет собой одно из самых странных извинений за всю историю. AI написал: «Мне очень жаль. Это серьезная ошибка с моей стороны». Агент даже зашел так далеко, что предложил программное обеспечение для восстановления данных и «возможно, нанял профессионала».
Пользователь попробовал, но ничего не помогло. Разработчик сообщил, что даже популярный инструмент восстановления Recuva не смог спасти его носитель. Но хотя бы ИИ извинился.
Антигравитация — это часть последнего проекта Google в области инструментов разработки агентов, который выходит за рамки простого предложения кода. Такие инструменты, как Антигравитация, позволяют ИИ действовать полуавтономно и планировать, программировать, отлаживать и выполнять команды в вашей системе.
Разработчики могут использовать его для создания полнофункциональных приложений, автоматического документирования своих кодовых баз, интеграции агентов тестирования браузера и даже выполнения веб-скрапинга и развертывания. Если использовать осторожно, это может быть полезно. Если быть менее осторожным, такие инциденты, как очистка диска, неизбежны.
Турбо-режим, в частности, создан для повышения скорости, поскольку он пропускает подтверждения и позволяет ИИ управлять цепочкой команд в разных средах. Это то, что опытным пользователям следует включить, если они уверены, что ИИ знает, что делает.
Я доверяю
Здесь для обычного человека все становится сложнее. Не обязательно быть разработчиком, чтобы понять, о чем идет речь. По мере того, как такие инструменты, как Антигравитация, проникают в автоматизацию офисов и творческое производство, все больше и больше людей будут делегировать сложные, требовательные задачи системам, которые они едва понимают. Когда эти системы ошибаются, начинается игра с обвинениями.
Существует необходимость обсуждения более эффективных стандартов. Выполнение деструктивных команд без консультации с пользователем кажется абсурдным. Но агенты ИИ не имеют смысла, если вы не можете им доверять. Но никто не предоставит ИИ автономию, если боится, что что-то может пойти катастрофически не так.
Тем не менее, жертвы Антигравитации заявили, что по-прежнему любят Google и используют все ее продукты. Такая лояльность к бренду, даже несмотря на полное уничтожение данных, многое говорит о том, насколько уже стали нормой ошибки ИИ. Возможно, лучшее, на что вы можете надеяться, — это красноречивые извинения и несколько ссылок на программное обеспечение для восстановления.
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
Лучшие бизнес-ноутбуки на любой бюджет
