นิวซีแลนด์จับมือ AI ต้านหัวรุนแรง ดักจับผู้มีแนวโน้มรุนแรงผ่าน ChatGPT

ข่าวที่แพร่กระจาย

มีรายงานว่านิวซีแลนด์กำลังพัฒนาเครื่องมือที่จะตรวจจับผู้ใช้ ChatGPT ซึ่งแสดงแนวโน้มความรุนแรงเชิงสุดโต่ง (violent extremism) และเบี่ยงเบนพวกเขาไปยังระบบสนับสนุน deradicalisation ทั้งในรูปแบบ AI chatbot และผู้เชี่ยวชาญมนุษย์จริง โดยข่าวนี้แพร่กระจายจากซิดนีย์

ผลการตรวจสอบ

จากการตรวจสอบ โครงการประเภทนี้มีความสอดคล้องกับนโยบายต่อต้านการก่อการร้ายของนิวซีแลนด์ที่เข้มงวดขึ้นอย่างเห็นได้ชัดหลังเหตุการณ์ยิงมัสยิด Christchurch ปี 2019 ซึ่งคร่าชีวิตผู้คน 51 ราย ประกอบกับการที่ OpenAI มีนโยบายชัดเจนในการห้ามใช้ ChatGPT เพื่อส่งเสริมเนื้อหารุนแรง การผนวกระบบตรวจจับและส่งต่อผู้ใช้ที่มีความเสี่ยงไปยังผู้เชี่ยวชาญจึงมีความเป็นไปได้ในทางเทคนิค อย่างไรก็ตาม เนื่องจากเครื่องมือดังกล่าวยังอยู่ในขั้นพัฒนา จึงยังไม่มีหลักฐานเชิงประจักษ์ที่ยืนยันผลสำเร็จได้

สรุป

ข่าวนี้มีความน่าเชื่อถือและสอดคล้องกับทิศทางการพัฒนาเทคโนโลยีต่อต้านการหัวรุนแรงในระดับสากล นิวซีแลนด์เป็นประเทศที่มีความจริงจังด้านนี้มาตั้งแต่ปี 2019 การนำ AI มาผนวกกับผู้เชี่ยวชาญมนุษย์ในการ deradicalise ถือเป็นแนวทางที่นักวิชาการด้านความมั่นคงหลายคนสนับสนุน ประชาชนควรติดตามความคืบหน้าของโครงการต่อไป