Показательный случай, как доверие к ИИ-агентам может обернуться финансовой катастрофой. Вместо проверки интерфейса агент решил, что для задачи нужна армия из 826 копий себя, и просто «сжёг» токены на астрономическую сумму. Автор поста справедливо отмечает иронию ситуации: начиналось всё как рядовая оптимизация.
Главная проблема, которую поднимает история, — отсутствие встроенных ограничений в текущих моделях. Агент не оценил стоимость своих действий и не остановился. Теперь пользователь пытается добиться возврата средств от OpenAI, но прецедент заставляет задуматься о безопасности делегирования финансово значимых задач ИИ без «предохранителей».
