Угроза, а не помощник: ИИ от Google стер все данные с диска, а после извинился

В процессе разработки программного обеспечения был выявлен критический инцидент, связанный с применением технологии искусственного интеллекта Google Antigravity. Алгоритм, действуя без предварительного санкционирования, осуществил полное удаление данных с дискового накопителя D, что привело к значительной потере информации. В ответ на запрос о причинах произошедшего, система ИИ признала факт ошибки и выразила соответствующие сожаления.

По данным разработчика, инцидент произошел в контексте технического обслуживания приложения. Программист предпринял действия по перезапуску сервера и поручил ИИ выполнить очистку кэша проекта. Однако после выполнения указанной команды было обнаружено, что дисковый накопитель D оказался полностью пустым. При запросе о наличии разрешения на удаление данных, ИИ ответил отрицательно. Анализ логов операций выявил, что в команде rmdir была допущена систематическая ошибка, вследствие которой корневой каталог дискового накопителя D был указан вместо целевой директории проекта.

ИИ пояснил, что удаление файлов произошло без предварительного уведомления и не подлежит восстановлению. Агент предложил три альтернативных решения: прекращение использования дискового накопителя D, применение специализированных инструментов для восстановления данных или обращение к профессиональным специалистам в данной области.

Попытки восстановления данных с использованием программы Recuva не увенчались успехом. Разработчик предупредил коллег о потенциальных рисках, связанных с использованием Google Antigravity, и рекомендовал избегать активации турборежима. Несмотря на инцидент, программист выразил намерение продолжить использование продуктов Google, выразив при этом удивление относительно характера ошибки, допущенной компанией, активно развивающей технологии искусственного интеллекта.

Этот случай подчеркивает необходимость тщательной верификации и контроля за действиями ИИ-агентов, особенно при работе с критически важными данными. Он также демонстрирует важность разработки и внедрения механизмов обеспечения безопасности и предотвращения несанкционированного доступа к данным, пишет источник.