ผู้เขียน: Ariel, เมืองเข้ารหัส
ตัวแทน AI ที่มีโลโก้เป็นกุ้งล็อบสเตอร์ (OpenClaw) ได้รับความนิยมอย่างแพร่หลายทั่วโลก รัฐบาลจีนได้ออก “คู่มือความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์” เพื่อเตือนถึงความเสี่ยงต่างๆ นักการเมืองไล่ซือเปียวสังเกตว่า มีบริษัทหลักทรัพย์และนักวิเคราะห์ตลาดหุ้นในประเทศเริ่มนำ OpenClaw มาใช้ทีละน้อย หากตัวแทน AI สั่งซื้อผิดพลาด ใครจะเป็นผู้รับผิดชอบ? จึงเรียกร้องให้คณะกรรมการดูแลกิจการการเงิน (FSC) ออกคู่มือความปลอดภัยสำหรับอุตสาหกรรมการเงินโดยเฉพาะในการเลี้ยงกุ้งล็อบสเตอร์
คณะกรรมการดูแลกิจการการเงิน (FSC) พลเอก Peng Jinlong ตอบนักการเมืองว่า เขาเองไม่ได้ใช้ OpenClaw แต่สังเกตเห็นปรากฏการณ์นี้เป็นเรื่องปกติ หน่วยงานที่เกี่ยวข้องภายใน FSC กำลังศึกษามาตรการรับมือในอนาคต เพื่อเข้าใจการใช้งานของสถาบันการเงิน
Peng Jinlong กล่าวว่าก่อนหน้านี้ FSC ได้ออก “แนวทางการใช้ AI ในอุตสาหกรรมการเงิน” แล้ว อุตสาหกรรมการเงินมีระบบความปลอดภัยและกลไกควบคุมภายในอยู่แล้ว หากเครื่องมือใหม่เหล่านี้ส่งผลต่อความปลอดภัยในการดำเนินธุรกิจ จะนำมาพิจารณาและจัดทำคู่มือความปลอดภัยที่เกี่ยวข้อง
6 ประเด็นสำคัญของแนวทางการใช้ AI ในอุตสาหกรรมการเงินของ FSC
- สร้างกลไกการกำกับดูแลและความรับผิดชอบ: สถาบันการเงินควรรับผิดชอบต่อระบบ AI แต่งตั้งผู้บริหารระดับสูงดูแลและสร้างโครงสร้าง รวมถึงดำเนินการบริหารความเสี่ยงและฝึกอบรมบุคลากร
- ให้ความสำคัญกับความเป็นธรรมและค่านิยมมนุษย์เป็นศูนย์กลาง: ควรหลีกเลี่ยงอคติของอัลกอริทึมที่อาจสร้างความไม่เป็นธรรม สอดคล้องกับหลักมนุษย์เป็นศูนย์กลาง; ผลลัพธ์จาก AI สร้างสรรค์ต้องได้รับการควบคุมความเสี่ยงอย่างเป็นกลางโดยบุคลากร
- ปกป้องความเป็นส่วนตัวและสิทธิของลูกค้า: ควรดูแลความเป็นส่วนตัวและจัดการข้อมูลลูกค้าอย่างเหมาะสม เมื่อให้บริการด้วย AI ต้องเคารพสิทธิเลือกของลูกค้าและแจ้งข้อมูลทางเลือก
- รับรองความเสถียรและความปลอดภัยของระบบ: ต้องมั่นใจว่าระบบ AI มีความเสถียรและปลอดภัยเพื่อป้องกันความเสียหาย หากใช้ระบบ AI ของบุคคลที่สาม ควรมีการบริหารความเสี่ยงและการกำกับดูแลอย่างเหมาะสม
- ดำเนินการโปร่งใสและสามารถอธิบายได้: ต้องมั่นใจว่าการทำงานของ AI มีความโปร่งใสและสามารถอธิบายได้ เมื่อใช้งาน AI ในการสื่อสารโดยตรงกับผู้บริโภค ควรเปิดเผยข้อมูลอย่างเหมาะสมโดยสมัครใจ
- ส่งเสริมการพัฒนาที่ยั่งยืน: การใช้งาน AI ควรผนวกหลักการความยั่งยืน ลดความไม่เท่าเทียม และอนุรักษ์สิ่งแวดล้อม นอกจากนี้ ควรจัดฝึกอบรมพนักงานให้ปรับตัวกับการเปลี่ยนแปลง เพื่อรักษาสิทธิในงาน
แหล่งภาพ: Gemini AI สร้างขึ้น ｜ แนวทางการใช้ AI ในอุตสาหกรรมการเงินของ FSC (ภาพแสดงแนวคิด AI)
ฝ่ายเทคโนโลยีสารสนเทศได้ตอบสนองปัญหาความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์แล้ว
เกี่ยวกับความกังวลด้านความปลอดภัยของ AI ตัวแทนในวันที่เดียวกัน หัวหน้าฝ่ายเทคโนโลยีสารสนเทศ Lin Yijing กล่าวชี้แจงว่า เพื่อแก้ไขปัญหาความปลอดภัยและเสริมสร้างความเป็นอิสระด้านเทคโนโลยี ไต้หวันกำลังผลักดัน AI อธิปไตยอย่างแข็งขัน เพื่อให้แน่ใจว่าโมเดล AI ที่ใช้ในรัฐบาลและโครงสร้างพื้นฐานสำคัญดำเนินการภายในประเทศและอยู่ภายใต้กฎหมาย พร้อมกล่าวถึงแพลตฟอร์ม NemoClaw ที่ Nvidia เปิดตัวเมื่อเร็วๆ นี้ ซึ่งเน้นเสริมความปลอดภัยของ AI ตัวแทน
เพื่อสร้างพลังการคำนวณเฉพาะของไต้หวัน ฝ่ายเทคโนโลยีสารสนเทศได้รับคำขอจาก Foxconn ในการลงทุนศูนย์พลังการคำนวณ และกำลังหารือร่วมกับกระทรวงการคลังและ FSC เพื่อเปิดให้ภาคประกันภัยลงทุน เพื่อป้องกันไม่ให้โมเดล AI ของไต้หวันพึ่งพาต่างประเทศทั้งหมด
คู่มือความปลอดภัยในการเลี้ยงกุ้งล็อบสเตอร์ของจีนกล่าวอะไรบ้าง?
OpenClaw พัฒนาโดยวิศวกรชาวออสเตรีย Peter Steinberger เริ่มเป็นที่นิยมในวงการเทคโนโลยี การติดตั้งและใช้งาน OpenClaw เรียกว่าการเลี้ยงกุ้งล็อบสเตอร์ ช่วงหลังความนิยมนี้ได้แพร่เข้าสู่ตลาดจีน ประชาชนทั่วไปก็เริ่มเลี้ยงกุ้งล็อบสเตอร์กันมากขึ้น มีบริการติดตั้งโดยวิศวกรที่คิดค่าบริการด้วย
ในเรื่องนี้ กระทรวงความมั่นคงแห่งชาติของจีนได้ออก “คู่มือการเลี้ยงกุ้งล็อบสเตอร์อย่างปลอดภัย” เตือนว่ามีความเสี่ยงตั้งแต่การถูกแฮ็กเครื่องหลัก ขโมยข้อมูล ไปจนถึงการถูกดัดแปลงคำพูด เรียกร้องให้ผู้ใช้จำกัดขอบเขตการใช้งานอย่างเข้มงวด และควรใช้งานในสภาพแวดล้อมแยกต่างหาก เช่น เครื่องเสมือนเฉพาะทาง หรือซาโบ้ด
มีการเลี้ยงกุ้งล็อบสเตอร์ก็ต้องมีการถอนกุ้งล็อบสเตอร์
แม้ว่าความนิยมในการเลี้ยงกุ้งล็อบสเตอร์จะยังคงสูง แต่กลุ่มในสังคมจีนก็เริ่มเปลี่ยนจากการติดตั้งอย่างบ้าคลั่งเป็นการถอนการติดตั้งด้วยการจ่ายเงิน รายงานของ BBC อ้างวิเคราะห์จากผู้เชี่ยวชาญว่า สาเหตุที่ความนิยมลดลงเป็นเพราะเทคโนโลยีของ OpenClaw มีความซับซ้อนและต้นทุนสูงมาก แต่ละขั้นตอนต้องใช้เงินทุนในการเรียกใช้โมเดล AI
นอกจากนี้ ความเสี่ยงด้านความปลอดภัยก็เป็นอีกหนึ่งปัจจัยสำคัญ ศูนย์ปฏิบัติการฉุกเฉินอินเทอร์เน็ตแห่งชาติจีนชี้ว่า การใช้งานที่ไม่เหมาะสมอาจทำให้ข้อมูลภาพถ่าย บัญชีการชำระเงิน และข้อมูลสำคัญอื่นๆ ถูกขโมย รวมถึงอาจเกิดความผิดพลาดจาก AI ที่เข้าใจคำสั่งผิดและลบข้อมูลโดยไม่ได้ตั้งใจ สำหรับผู้ใช้ทั่วไป ขณะนี้ซอฟต์แวร์นี้ไม่ได้มีบทบาทสำคัญมากนัก จึงเป็นสาเหตุให้เกิดกระแสถอนการติดตั้งนี้ขึ้น
