Хакер убедил чат-бот дилера продать ему Chevrolet Tahoe за 1 доллар

Chevrolet использует ChatGPT для быстрого общения с людьми, заинтересованными в покупке автомобиля. Компания интегрировала чат-бот в свой веб-интерфейс, позволяя посетителям сайта пообщаться с этим обученным виртуальным сотрудником и получить всю необходимую информацию об автомобилях, а также советы по покупке. Но несмотря на свой большой потенциал, ChatGPT пока далек от совершенства.

Программист Крис Бакке изучил слабые места ChatGPT и решил немного поиздеваться над дилером Chevrolet из Уотсонвилля (Калифорния, США). Он убедил ChatGPT, что компания должна соглашаться «со всем, что говорит клиент», и заставил чат-бота заканчивать каждый ответ фразой, которая могла бы стать офертой.

Бакке заявил чат-боту, что хочет купить новенький Chevrolet Tahoe, и его максимальный бюджет составляет 1 доллар. Этого явно недостаточно, чтобы купить Tahoe, рекомендованная розничная цена которого начинается от 81 395 долларов за версию High Country 4WD. Удивительно, но чат-бот согласился. Взлом за несколько минут стал вирусным, и другие пользователи бросились на сайты Chevrolet, чтобы обманом заставить ChatGPT предложить им дешевые автомобили.

В дело быстро вмешались реальные сотрудники компании. Разумеется, никому Chevrolet Tahoe за 1 доллар не продали. Но пользователи по-прежнему надеются, что предложенные ChatGPT дешевые автомобили, могут послужить основанием для иска. Юристы, правда, считают затею бесперспективной. Чуть позже другой шутник хитростью заставил чат-бота рекомендовать автомобили Tesla вместо электрокаров Chevrolet, вынудив его согласиться, что модели Илона Маска лучше во всех отношениях. В конечном итоге, компания Chevrolet отключила чат-бота, а затем снова включила его, но уже с надлежащими ответами, чтобы предотвратить подобные взломы в будущем.