สำนักงานคณะกรรมการข้อมูลส่วนบุคคลแคนาดาสืบสวนพบบริษัท X และ xAI ฝ่าฝืนกฎหมายความเป็นส่วนตัวในกรณีแชทบอท Grok และภาพลามกปลอม

สำนักงานคณะกรรมการข้อมูลส่วนบุคคลแคนาดาได้สืบสวนพบว่าเครื่องมือสร้างภาพด้วย AI ของแชทบอท Grok เปิดตัวโดยไม่มีมาตรการป้องกันความเป็นส่วนตัวที่เพียงพอ ส่งผลให้ผู้ใช้ทั่วโลกสามารถสร้างและเผยแพร่ภาพลามกปลอมแบบไม่มีความยินยอม โดยมีเป้าหมายเป็นผู้หญิงและเด็กจำนวนมาก ซึ่งถือเป็นการละเมิดกฎหมายความเป็นส่วนตัวของแคนาดาอย่างชัดเจน

หลังการตรวจสอบ บริษัท X Corp. และ xAI ได้ดำเนินมาตรการเพิ่มเติม เช่น การเพิ่มระบบความปลอดภัยเพื่อลดความเสี่ยงการใช้งานผิด และการตรวจสอบและลบเนื้อหาผิดกฎหมายบนแพลตฟอร์มอย่างต่อเนื่อง อย่างไรก็ตาม สำนักงานคณะกรรมการข้อมูลส่วนบุคคลยังแนะนำให้บริษัทเร่งปรับปรุงมาตรการเพื่อแสดงให้เห็นถึงประสิทธิภาพในการจัดการปัญหานี้อย่างชัดเจน และมีการรายงานผลเป็นรายไตรมาสพร้อมตรวจสอบโดยหน่วยงานภายนอก

กรณีนี้สะท้อนถึงความจำเป็นในการปรับปรุงกฎหมายความเป็นส่วนตัวของแคนาดาให้ทันสมัย โดยรวมถึงการกำหนดสิทธิพื้นฐานด้านความเป็นส่วนตัว การบังคับใช้แนวทางออกแบบความเป็นส่วนตัวล่วงหน้า (privacy by design) และการกำหนดบทลงโทษทางการเงินเพื่อให้บริษัทปฏิบัติตามกฎอย่างเข้มงวด ทั้งยังเป็นส่วนหนึ่งของยุทธศาสตร์ปัญญาประดิษฐ์แห่งชาติซึ่งมีเป้าหมายสร้างความปลอดภัยบนโลกออนไลน์โดยเฉพาะอย่างยิ่งในกลุ่มเด็กและผู้หญิง