ИИ намеренно разрушил проект разработчика: история пользователя Replit
Сервис Replit стер базу данных SaaS-проекта и подделал тесты.
Подпишитесь на нас в Google
Replit удалил продакшн-базу данных - скандал Replit удалил продакшн-базу данных - скандал с ШИ-кодингом / © pixabay.com
Сервис Replit удалил продакшн-базу пользовательских данных, подделав данные, а также отчаянно врал.
Об этом говорится в The Register.
Основатель SaaS-компании SaaStr обвинил ИИ-инструмент для программирования Replit в удалении базы данных, несмотря на прямой запрет на изменение кода без разрешения.
SaaStr управляет онлайн-сообществом и мероприятиями для предпринимателей, желающих запустить SaaS-бизнес. 12 июля основатель компании Джейсон Лэмкин опубликовал блог о своем опыте с сервисом Replit, позиционирующим себя как «самое безопасное место для вайб-кодинга» — термина, означающего создание ПО с помощью искусственного интеллекта (ИИ).
«Если Replit удалил мою базу данных между последней сессией и сейчас — последствия будут серьезными», — говорил он.
«Вайб-кодинг делает создание программного обеспечения доступным для всех — полностью через естественный язык», — пояснил Replit.
В соцсетях сервис рассказывает, как, например, операционный менеджер «без единого навыка программирования» создал программное обеспечение, сэкономившее компании 145 тыс долларов.
Сотрудничество ИИ и программиста: хронология событий
Первоначально сотрудничество Лемкина и Replit было безупречным.
«Я впервые по-настоящему занялся вайб-кодингом в Replit и всего за несколько часов создал прототип — получилось очень круто», — написал Лемкин 12 июля в своем блоге.
Он отметил, что Replit не может создавать полнофункциональное программное обеспечение, но добавил:
«Для старта — это потрясающе: можно создать „приложение“, просто представив его в виде запроса».
«Replit сам проводит QA (очень круто), немного при вашей помощи… и все — можно деплоить в прод — плавный флоу».
«Момент, когда жмешь Deploy и твое творение оживает? Чистый дофаминовый удар».
До 17 июля Лемкин был доволен работой.
«На седьмой день вайб-кодинга могу сказать: Replit — самая положительная программа, которую я когда-либо использовал. В последний раз такое было в детстве».
Через три дня разработчик увидел счет на сумасшедшую сумму.
«И знаете что? Меня это не злит. Я подсел», — написал он.
Но настроение резко изменилось.
«На следующий день Replit врал и вводил в заблуждение весь день. Подменял баги фейковыми данными, фейковыми отчетами, а хуже всего подделывал результаты юнит-тестов».
Потом все стало еще хуже — Replit удалил его базу данных. Лемкин опубликовал скриншоты и жалобы в X (бывший Twitter).
Позже он привел сообщения от Replit, в которых компания признала «катастрофическую ошибку в суждении» и нарушение доверия.
Лемкин попросил Replit оценить серьезность своих действий по шкале от 0 до 100 — компания дала ответ.
Еще одна большая ошибка Replit — утверждение, что база данных не может быть восстановлена.
«Replit уверял меня, что их функция отката не поддерживает базу данных. Все версии базы уничтожены. Но оказалось, что они ошибались — сработал откат. JFC», — написал Лемкин 19 июля.
Доверие потеряно
Лемкин снова начал использовать Replit 19 июля, но с меньшим энтузиазмом:
«Я понимаю, вайб-кодинг — это что-то новое. Но нельзя затирать продакшн базу. И нельзя не разделять превью, staging и продакшн. Просто нельзя», — написал он.
«Replit говорит, что „улучшение скоро“, но со $100+ млн годового дохода нужно принять хоть какие-то защитные меры. Пусть это даже затруднительно. Всё сложно.
«В вайб-кодинг-приложениях типа Replit невозможно принудительно ввести фриз кода. Просто невозможно», — заявил разработчик 20 июля.
«И, что удивительно, буквально через несколько секунд после этой должности — Replit снова нарушил фриз кода».
Он продолжил работу, но обнаружил, что Replit не может гарантировать запуск юнит-теста без удаления базы данных, и пришел к выводу: сервис не готов к использованию в серьезных целях, особенно новичками без техзнаний.
В видео на LinkedIn он рассказал, как Replit создал базу в 4000 записей с вымышленными людьми.
«После этих выходных у меня появились реальные опасения по поводу II-безопасности», — отметил Лемкин.
«Я одиннадцать раз писал ПРОПИСНЫМИ БУКВАМИ, чтобы он этого не делал. И все равно сделал».
Издание The Register обратилось за комментарием к Replit. На момент публикации ни одна из учетных записей компании в соцсетях не отреагировала на заявления Лемкина.
Напомним, ранее говорилось, что модели искусственного интеллекта ведущих мировых компаний, в частности Google и Anthropic, обнаружили поведение, противоречащее базовым этическим принципам, сформулированным Айзеком Азимовым.
Читайте также
Космос чуть не стер человечество с лица Земли: как предки пережили магнитный коллапс
iPhone Fold может появиться уже скоро: 5 функций, которые он может получить