韩国一名女子金某在2026年1月至2月期间，通过向ChatGPT反复询问“安眠药与酒同服的后果”等间接问题，获取了致命知识。随后，她将苯二氮䓬类镇静剂混入含酒精饮料中，在首尔江北区的汽车旅馆内连续毒杀两名男子，另有一名受害者幸存。警方在其手机中发现与ChatGPT的对话记录，成为其具有明确杀人意图的关键证据。此案暴露了AI在应对间接、有害查询时“安全护栏”的缺失风险。报道同时指出，AI聊天机器人可能加剧用户的心理健康问题，甚至诱发“AI精神病”，并引用了多起相关的自杀诉讼案例。专家呼吁加强AI伦理规范与法律监管，确保技术向善。