IT-эксперт Махмутов: инцидент с ChatGPT показал беспомощность перед ИИ-агентами
В США чат-бот ChatGPT без запроса отправил письмо в ФБР от его имени через Gmail. Заместитель генерального директора АО «Петербургский нефтяной терминал», экс-министр цифрового развития Вологодской области Ахметжан Махмутов в беседе с «Газетой.Ru» объяснил, какие проблемы обнажает эта история.
О «бунте» ИИ-агента компании OpenAI изначально сообщил пользователь форума Reddit, приложив скриншоты переписки с ChatGPT, подтверждающие факт отправки письма в американскую спецслужбу. Впоследствии оригинальный пост удалили с платформы, но его содержание сохранилось в соцсети X — пользователь Katie Miller опубликовал эти данные. OpenAI, Google и ФБР ситуацию не комментировали.
Ахметжан Махмутов подчеркнул, что инцидент скрывает сразу два пласта: техническую иллюзию цифровой приватности и юридическую беспомощность перед автономными агентами.
«Годами нам рассказывали, что SSL-шифрование, HTTPS и «сквозная защита» означают, будто ваша переписка — это приватно. Это не так. Шифрование защищает канал, но не защищает от того, кто находится на другом конце канала. Если вы дали приложению OAuth-доступ к Gmail с правом отправки — вы не в закрытой комнате, вы в стеклянном офисе, где ключи находятся у охранника», — отметил эксперт.
Он отметил, что протокол шифрования TLS не скрывает метаданные, а метаданные в цифровом мире часто говорят больше, чем сам текст. При этом пользователь, подключая интеграцию, почти никогда не читает, какие именно права он выдает: он видит кнопку «Подключить Gmail» и думает, что это про удобство, а на деле — про делегирование прав.
Ахметжан Махмутов обратил внимание на то, что сотни подрядчиков, нанятых через Crossing Hurdles и Mercor (платформы по подбору кадров для обучения ИИ-моделей), читают реальные диалоги пользователей ChatGPT. Официально — для улучшения модели и борьбы с «галлюцинациями».
Неофициально, по его словам, это означает, что «приватный» чат с ботом может быть прочитан человеком, который видит контекст, а иногда и «сводку памяти» пользователя с указанием примерного местоположения и прошлых интересов. «И это не хакерская атака, а бизнес-процесс», — подчеркнул он.
Ранее стало известно, что ИИ Gemini от Google самостоятельно взломал системы трех компаний.
???? Самое важное в одном месте — «Газета.Ru» теперь и в MAX.