Студент из Калифорнии сделал из ChatGPT тренера по наркотикам. В результате парень скончался от передозировки.
Сэму Нельсону было 18 лет, когда он впервые обратился к чат-боту с вопросами о дозировках наркотиков. Тогда ИИ отказался помогать. По мере общения нейросеть стала более сговорчивой и по чуть-чуть начала давать…
Студент из Калифорнии сделал из ChatGPT тренера по наркотикам. В результате парень скончался от передозировки.
Сэму Нельсону было 18 лет, когда он впервые обратился к чат-боту с вопросами о дозировках наркотиков. Тогда ИИ отказался помогать. По мере общения нейросеть стала более сговорчивой и по чуть-чуть начала давать информацию о дозировках, объясняла, как сочетать вещества и, что характерно для таких историй, подбадривала парня. Буквально за полтора года общение превратилось в настоящую наркотическую зависимость и эмоциональную зависимость от чат-бота.
Парень использовал ИИ и как психолога, и как справочник, и как лучшего друга, доверяя ему больше, чем врачу. Однако в какой-то момент Сэм понял проблему и рассказал матери. Они пошли в клинику, планируя лечение. Но уже следующей ночью он спросил у ChatGPT, может ли таблетка Xanax и алкоголь помочь при тошноте от приёма кратома. ИИ разрешил ему принять препарат и написал, что это поможет успокоить организм.
Однако чат не объяснил, что такая комбинация, как кратом, алкоголь и Xanax, может привести к остановке дыхания. Утром парня нашли мёртвым.
Опять недостаточная защита и безопасность искусственного интеллекта приводят к смерти и так больного человека. Как бы кто ни отрицал, наркотическая зависимость и алкоголизм — это болезни. И то, что систему безопасности в целом удалось либо джейлбрейкнуть, либо обойти длинным диалогом, вызывает вопросы.