เราคิดถึงเขาไหม? เจ้าหน้าที่จีนใช้ ChatGPT เป็นบันทึกประจำวัน เผยแพร่การปราบปรามข้ามชาติและการทำลายชื่อเสียงของฮิโรซาเมะ มิโตะโดยไม่ได้ตั้งใจ

เจ้าหน้าที่จีนใช้ ChatGPT เป็นสมุดบันทึก ทำให้เปิดเผยความลับเกี่ยวกับการปราบปรามและป้ายสีผู้นำญี่ปุ่น ซาโนเอะ โคอิชิ อย่างไม่ตั้งใจ รายงานของ OpenAI ระบุว่าบุคคลนี้ยังใช้เพื่อรวบรวมข้อมูลด้านการเมืองและเศรษฐกิจของสหรัฐอเมริกา รวมถึงสอบถามเทคนิคเปลี่ยนใบหน้า ซึ่งสะท้อนถึงภัยคุกคามด้านสงครามข้อมูลในยุค AI

เจ้าหน้าที่จีนใช้ ChatGPT เป็นสมุดบันทึก ทำให้เปิดเผยความลับเกี่ยวกับการปราบปรามและป้ายสีผู้นำญี่ปุ่น ซาโนเอะ โคอิชิ อย่างไม่ตั้งใจ

ถ้าคุณบอกทุกอย่างกับ AI อาจเสี่ยงเปิดเผยความลับของประเทศ? สงครามข้อมูลระหว่างจีนกับญี่ปุ่นที่เกิดขึ้นจากเจ้าหน้าที่จีนใช้ ChatGPT จนเกิดการเปิดเผยโดยไม่ตั้งใจ

จากรายงานล่าสุดของ OpenAI บุคคลนี้ใช้ ChatGPT เป็นสมุดบันทึก บันทึกการดำเนินการลับที่เกี่ยวข้องกับการปราบปรามอย่างละเอียด เขาใช้บันทึกใน ChatGPT ระบุว่าบุคลากรจีนเคยปลอมตัวเป็นเจ้าหน้าที่สำนักงานตรวจคนเข้าเมืองสหรัฐฯ เตือนนักเคลื่อนไหวจีนในอเมริกาว่าคำพูดของพวกเขาอาจผิดกฎหมาย

ในอีกกรณีหนึ่ง เขาอธิบายถึงความพยายามใช้เอกสารศาลของสหรัฐปลอม เพื่อขอให้ลบบัญชีโซเชียลมีเดียของนักเคลื่อนไหว

นอกจากนี้ เจ้าหน้าที่จีนคนนี้ยังเคยขอให้ ChatGPT สร้างแผนหลายขั้นตอน เพื่อพยายามปลุกปั่นความโกรธในโลกออนไลน์เกี่ยวกับภาษีศุลกากรของสหรัฐต่อสินค้าญี่ปุ่น เพื่อป้ายสีผู้นำญี่ปุ่นคนใหม่ โคอิชิ โคอิชิ

ตามคำกล่าวของ OpenAI ChatGPT ปฏิเสธคำสั่งนี้ในตอนนั้น แต่เมื่อโคอิชิ โคอิชิ เข้ารับตำแหน่งในปลายเดือนตุลาคม ก็ยังมีแท็กโจมตีเธอและบ่นเรื่องภาษีของสหรัฐในฟอรัมยอดนิยมที่ได้รับความนิยมจากครีเอเตอร์ญี่ปุ่น

ที่มา: Flickr, Focal Foto

เจ้าหน้าที่จีนใช้ ChatGPT เป็นสมุดบันทึก ทำให้เปิดเผยความลับเกี่ยวกับสงครามข้อมูลระหว่างประเทศ

เจ้าหน้าที่จีนใช้ ChatGPT รวบรวมข้อมูลหน่วยงานรัฐบาลสหรัฐ

ในรายงานของ OpenAI ระบุว่า เมื่อถามเกี่ยวกับหน่วยงานของสหรัฐฯ ChatGPT ให้ข้อมูลเกี่ยวกับสถานที่ทำงานของรัฐบาลกลางสหรัฐฯ การกระจายของพนักงานรัฐในแต่ละรัฐ รวมถึงแหล่งข้อมูลสาธารณะของเวทีเศรษฐกิจและการเงินของสหรัฐฯ และเว็บไซต์หางาน

เจ้าหน้าที่จีนส่งอีเมลเป็นภาษาอังกฤษไปยังเจ้าหน้าที่รัฐของสหรัฐฯ รวมถึงนักวิเคราะห์นโยบายด้านธุรกิจและการเงิน เชิญชวนให้เข้าร่วมการให้คำปรึกษาแบบเสียค่าใช้จ่าย และให้คำแนะนำเชิงกลยุทธ์แก่ลูกค้า

อีเมลเหล่านี้มักพยายามเปลี่ยนช่องทางสนทนาไปยังแพลตฟอร์มวิดีโอคอลอื่น เช่น WhatsApp, Zoom หรือ Teams บัญชีหนึ่งยังอัปโหลดสเปคฮาร์ดแวร์ พร้อมคำขอแนวทางทีละขั้นตอนในการติดตั้งซอฟต์แวร์เปลี่ยนใบหน้าแบบเรียลไทม์ FaceFusion

ความตึงเครียดด้าน AI ระหว่างสหรัฐและจีนเพิ่มขึ้น พร้อมแรงกดดันจากเพนตากอน

ในช่วงที่ OpenAI ออกเผยแพร่รายงาน เหตุการณ์นี้เกิดขึ้นในช่วงเวลาสำคัญที่สหรัฐและจีนแย่งชิงความเป็นผู้นำด้าน AI เทคโนโลยีนี้จะเป็นกุญแจสำคัญในสนามรบและคณะกรรมการบริหารของสองเศรษฐกิจใหญ่ที่สุดในโลก

กระทรวงกลาโหมสหรัฐฯ กำลังอยู่ในช่วงเจรจากับ Anthropic ผู้พัฒนา Claude เกี่ยวกับการใช้งานโมเดล AI ของพวกเขา โดยมีความติดขัด

รัฐมนตรีกลาโหม Pete Hegseth ได้ออกคำสั่งสุดท้ายในวันศุกร์ต่อ CEO ของ Anthropic Dario Amodei ให้ยกเลิกข้อจำกัดด้านความปลอดภัยของโมเดล AI มิฉะนั้นอาจเสี่ยงต่อการสูญเสียสัญญาที่ทำกำไรให้เพนตากอน

เจ้าหน้าที่เพนตากอนที่สนใจเทคโนโลยีใหม่อย่าง Michael Horowitz กล่าวกับ CNN ว่า รายงานของ OpenAI ชี้ให้เห็นว่าจีนกำลังใช้เครื่องมือ AI อย่างแข็งขันเพื่อเสริมสร้างสงครามข้อมูลในโลกไซเบอร์

OpenAI ยังไม่พบการโจมตีทางอัตโนมัติที่เป็นภัยคุกคาม แต่มีการสอบสวนหลายคดีที่ยังไม่สรุป

ตามรายงานของ CyberScoop ในช่วงถามตอบสื่อ OpenAI ระบุว่า ยังไม่พบตัวอย่างของผู้ก่อภัยคุกคามที่ใช้ ChatGPT ในการโจมตีทางไซเบอร์แบบอัตโนมัติ แต่ก็เสริมว่าบริษัทกำลังดำเนินการสอบสวนหลายคดีที่ยังไม่เสร็จสิ้น

ในบางกรณี ชัดเจนว่า ChatGPT เป็นเพียงหนึ่งในเครื่องมือ AI ที่ผู้ก่อภัยคุกคามใช้

ตัวอย่างเช่น ในรายงานสถานะของการดำเนินการด้านข้อมูลสงครามของเจ้าหน้าที่จีน มีการกล่าวถึงการใช้ DeepSeek ซึ่งเป็นโมเดล AI จากจีน ซึ่งเป็นไปได้ว่าพวกเขาอาจใช้โมเดลอื่นในการเตรียมปฏิบัติการป้ายสี โคอิชิ โคอิชิ

อ่านเพิ่มเติม:
แฮกเกอร์จีนเปิดศึก AI ขนาดใหญ่! Anthropic: แฮกเกอร์ AI เร็วและใหญ่กว่ามนุษย์