Anthropic กล่าวว่าถูกโจมตีด้วยการกลั่นกรองขนาดใหญ่

นักพัฒนา AI ของ Frontier อย่าง Anthropic ได้ออกมาเปิดเผยต่อสาธารณะว่าได้กล่าวหา 3 ห้องปฏิบัติการ AI ของจีน—DeepSeek, Moonshot และ Minimax—ว่ากำลังดำเนินการโจมตีแบบกลั่น (distillation attacks) เพื่อดูดซับความสามารถจาก Claude ซึ่งเป็นโมเดลภาษาขนาดใหญ่ของ Anthropic ในโพสต์บล็อกอย่างละเอียด บริษัทอธิบายถึงแคมเปญที่อ้างว่ามีการสร้างการแลกเปลี่ยนมากกว่า 16 ล้านครั้ง ผ่านบัญชีปลอมประมาณ 24,000 บัญชี โดยใช้ผลลัพธ์ของ Claude เพื่อฝึกโมเดลที่มีความสามารถน้อยกว่า การกลั่นเป็นเทคนิคการฝึกอบรมที่เป็นที่ยอมรับใน AI แต่เมื่อใช้งานในระดับใหญ่เพื่อเลียนแบบคุณสมบัติที่ทรงพลังโดยไม่ต้องลงทุนด้านการพัฒนาเท่าเดิม ก็กลายเป็นปัญหา Anthropic เน้นย้ำว่าแม้การกลั่นจะมีการใช้งานที่ถูกต้องตามกฎหมาย แต่ก็สามารถช่วยให้คู่แข่งสามารถลัดขั้นตอนการค้นพบและพัฒนาผลิตภัณฑ์ของตนเองได้ในเวลาที่น้อยลงและต้นทุนที่ต่ำลง

สาระสำคัญ

การกลั่นเป็นการฝึกโมเดลที่อ่อนแอกว่าบนผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า ซึ่งเป็นวิธีที่ใช้กันอย่างแพร่หลายเพื่อสร้างเวอร์ชันที่เล็กลงและราคาถูกลงของระบบ AI

Anthropic กล่าวหา DeepSeek, Moonshot และ Minimax ว่ากำลังดำเนินแคมเปญกลั่นในระดับมวลชน สร้างปฏิสัมพันธ์กับ Claude เป็นล้านๆ ครั้ง ผ่านบัญชีปลอมหลายหมื่นบัญชี

การโจมตีเหล่านี้อ้างว่ามุ่งเป้าไปที่ความสามารถเฉพาะตัวของ Claude รวมถึงการคิดเชิงตัวแทน การใช้เครื่องมือ และการเขียนโค้ด ซึ่งชี้ให้เห็นว่ามุ่งเน้นไปที่ความสามารถที่มีมูลค่าสูงและสามารถถ่ายโอนได้

บริษัทชี้ว่าการดำเนินการกลั่นจากต่างประเทศเสี่ยงด้านภูมิรัฐศาสตร์ อาจช่วยให้ฝ่ายเผด็จการมีความสามารถขั้นสูงสำหรับการโจมตีทางไซเบอร์ การเผยแพร่ข้อมูลเท็จ และการสอดแนม

Anthropic ระบุว่าจะเสริมสร้างการตรวจจับ แบ่งปันข้อมูลภัยคุกคาม และเข้มงวดการควบคุมการเข้าถึง พร้อมเรียกร้องความร่วมมือในอุตสาหกรรมและการมีส่วนร่วมของหน่วยงานกำกับดูแลเพื่อรับมือกับภัยคุกคามเหล่านี้

บริบทตลาด: เหตุการณ์นี้เกิดขึ้นในช่วงที่มีการตรวจสอบความสามารถในการทำงานร่วมกันของโมเดล AI และความปลอดภัยของบริการ AI บนคลาวด์ ซึ่งเป็นพื้นฐานที่เกี่ยวข้องกับระบบอัตโนมัติในตลาดคริปโตและเครื่องมือบริหารความเสี่ยงต่างๆ ขณะที่โมเดล AI ฝังตัวในด้านการเทรด การประเมินความเสี่ยง และการสนับสนุนการตัดสินใจ การรักษาความสมบูรณ์ของข้อมูลเข้าและผลลัพธ์ของโมเดลจึงมีความสำคัญมากขึ้นสำหรับทั้งนักพัฒนาและผู้ใช้งานในวงการคริปโต

ทำไมเรื่องนี้ถึงสำคัญ

ข้อกล่าวหานี้เน้นความตึงเครียดในหัวใจของ AI ขั้นหน้า: เส้นแบ่งระหว่างการกลั่นโมเดลที่ถูกต้องตามกฎหมายและการลอกเลียนแบบเชิงฉ้อฉล การกลั่นเป็นแนวปฏิบัติที่ใช้กันอย่างแพร่หลายและถูกต้องตามกฎหมายในห้องปฏิบัติการเพื่อสร้างเวอร์ชันที่เบากว่าและราคาถูกกว่า แต่เมื่อใช้งานในระดับใหญ่ในระบบนิเวศเดียวกัน เทคนิคนี้สามารถถูกใช้เพื่อดึงความสามารถที่ต้องใช้การวิจัยและวิศวกรรมอย่างมากออกมาได้ หากการกล่าวหาเป็นจริง อาจทำให้เกิดการทบทวนแนวทางการควบคุม การตรวจสอบ และการตรวจสอบการเข้าถึงโมเดลที่ทรงพลัง โดยเฉพาะสำหรับบริษัทที่มีการดำเนินงานระดับโลกและมีโครงสร้างคลาวด์ซับซ้อน

Anthropic ยืนยันว่าบริษัททั้งสามดำเนินกิจกรรมที่ออกแบบมาเพื่อเก็บเกี่ยวความสามารถขั้นสูงของ Claude โดยใช้การเชื่อมโยง IP-address ข้อมูลเมตาคำขอ และตัวบ่งชี้โครงสร้างพื้นฐาน พร้อมการสนับสนุนจากพันธมิตรในอุตสาหกรรม ซึ่งบ่งชี้ว่ามีความพยายามที่เป็นระบบและอิงข้อมูลเพื่อแผนที่และเลียนแบบความสามารถของ AI บนคลาวด์ ไม่ใช่แค่การทดลองแบบแยกส่วน ข้อมูลที่อ้างว่ามีการสร้างปฏิสัมพันธ์มากกว่าหลายสิบล้านครั้งในหลายพันบัญชี ทำให้เกิดคำถามเกี่ยวกับมาตรการป้องกันที่มีอยู่เพื่อค้นหาและหยุดยั้งรูปแบบเช่นนี้ รวมถึงกรอบความรับผิดชอบที่ควบคุมคู่แข่งต่างประเทศที่ดำเนินกิจกรรมในพื้นที่ AI ซึ่งมีผลกระทบโดยตรงต่อความมั่นคงและเศรษฐกิจของประเทศ

“การกลั่นเป็นวิธีการฝึกอบรมที่ใช้กันอย่างแพร่หลายและถูกต้องตามกฎหมาย ตัวอย่างเช่น ห้องปฏิบัติการ AI ขั้นหน้าใช้เทคนิคนี้เพื่อสร้างเวอร์ชันที่เล็กลงและราคาถูกลงสำหรับลูกค้า” Anthropic เขียนเสริมว่า:

“แต่การกลั่นก็สามารถถูกใช้ในทางผิดกฎหมายได้เช่นกัน: คู่แข่งสามารถใช้มันเพื่อเข้าถึงความสามารถอันทรงพลังจากห้องปฏิบัติการอื่นในเวลาที่น้อยลงและต้นทุนที่ต่ำลง ซึ่งจะต้องใช้การวิจัยและพัฒนามากขึ้นเอง”

นอกจากประเด็นด้านทรัพย์สินทางปัญญาแล้ว Anthropic ยังเชื่อมโยงกิจกรรมที่กล่าวหาเข้ากับความเสี่ยงด้านยุทธศาสตร์เพื่อความมั่นคงของชาติ โดยอ้างว่าการโจมตีด้วยการกลั่นจากห้องปฏิบัติการต่างประเทศอาจสนับสนุนการดำเนินการทางทหาร การข่าวกรอง และการสอดแนม ระบบความสามารถที่ไม่ได้รับการป้องกันอาจเปิดโอกาสให้ดำเนินการโจมตีไซเบอร์ การเผยแพร่ข้อมูลเท็จ และการสอดแนมจำนวนมาก ซึ่งซับซ้อนต่อการวางแผนด้านภูมิรัฐศาสตร์ของนักการเมืองและอุตสาหกรรมทั้งหลาย ข้อกล่าวหานี้จึงไม่ใช่แค่ข้อพิพาทด้านการแข่งขัน แต่เป็นเรื่องที่มีผลกระทบกว้างขวางต่อการปกป้องและการกำกับดูแลเทคโนโลยี AI ขั้นหน้า

ในแนวทางการดำเนินการต่อไป Anthropic ระบุว่าจะเสริมสร้างระบบตรวจจับเพื่อระบุพฤติกรรมที่น่าสงสัย เร่งการแบ่งปันข้อมูลภัยคุกคาม และเข้มงวดการควบคุมการเข้าถึง พร้อมเรียกร้องให้ภาคอุตสาหกรรมและหน่วยงานกำกับดูแลร่วมมือกันอย่างใกล้ชิดในการต่อต้านกิจกรรมของผู้ดำเนินการกลั่นจากต่างประเทศ ซึ่งเป็นสิ่งจำเป็นเพื่อควบคุมกิจกรรมเหล่านี้ในระดับใหญ่

สำหรับผู้อ่านที่ติดตามแนวหน้าของนโยบาย AI ข้อกล่าวหานี้สะท้อนให้เห็นถึงการถกเถียงอย่างต่อเนื่องเกี่ยวกับการสมดุลระหว่างนวัตกรรมและการรักษาความปลอดภัย—ประเด็นที่กำลังเป็นหัวข้อในวงสนทนาเรื่องการกำกับดูแล การควบคุมการส่งออก และการไหลของข้อมูลข้ามพรมแดน อุตสาหกรรมโดยรวมได้เผชิญกับความท้าทายในการป้องกันการใช้งานในทางผิดโดยไม่ขัดขวางการทดลองที่ถูกต้องตามกฎหมาย ซึ่งเป็นความตึงเครียดที่น่าจับตามองในความพยายามกำหนดกฎระเบียบและมาตรฐานในอนาคต

สิ่งที่ควรจับตาต่อไป

Anthropic และบริษัทที่ถูกกล่าวหาอาจเผยแพร่รายละเอียดเพิ่มเติมหรือคำชี้แจงเกี่ยวกับข้อกล่าวหาและการตอบสนองของพวกเขา

หน่วยงานด้านภัยคุกคามและผู้ให้บริการคลาวด์อาจปล่อยข้อมูลชี้เป้าหมายหรือแนวทางป้องกันใหม่ที่เกี่ยวข้องกับการโจมตีแบบกลั่น

หน่วยงานกำกับดูแลและนักกฎหมายอาจออกนโยบายหรือปรับปรุงกฎระเบียบเกี่ยวกับการเข้าถึงโมเดล AI การแบ่งปันข้อมูลข้ามพรมแดน และมาตรการต่อต้านการละเมิดลิขสิทธิ์สำหรับโมเดลความสามารถสูง

นักวิจัยอิสระและบริษัทด้านความปลอดภัยอาจทำซ้ำหรือท้าทายวิธีการที่ใช้ในการระบุแคมเปญดังกล่าว รวมถึงอาจขยายฐานข้อมูลหลักฐาน

ความร่วมมือในอุตสาหกรรมอาจเกิดขึ้นเพื่อกำหนดแนวปฏิบัติที่ดีที่สุดในการปกป้องความสามารถของโมเดลขั้นหน้าและการตรวจสอบกระบวนการกลั่นโมเดล

แหล่งข้อมูลและการตรวจสอบ

บทความบล็อกของ Anthropic: Detecting and Preventing Distillation Attacks — คำแถลงอย่างเป็นทางการเกี่ยวกับข้อกล่าวหาและแคมเปญที่อธิบายไว้

โพสต์บน X ของ Anthropic ที่อ้างอิงในข้อมูลเปิดเผย — บันทึกสาธารณะในเวลานั้นของผลการค้นพบของบริษัท

การรายงานของ Cointelegraph และเอกสารเชื่อมโยงที่พูดถึง AI ตัวแทน, AI ขั้นหน้า และความกังวลด้านความปลอดภัยที่เกี่ยวข้องในบทความนี้

การอภิปรายที่เกี่ยวข้องเกี่ยวกับบทบาทของการกลั่นในกระบวนการฝึก AI และการใช้งานในสภาพแวดล้อมการแข่งขัน

การโจมตีแบบกลั่นและความปลอดภัยของ AI ขั้นหน้า

ข้อกล่าวหาหลักอยู่บนการใช้ประโยชน์อย่างเป็นระบบจากการกลั่น ซึ่งผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า—เช่น Claude—ถูกนำไปใช้ฝึกโมเดลทางเลือกที่เลียนแบบหรือประมาณความสามารถของมัน Anthropic ยืนยันว่านี่ไม่ใช่การรั่วไหลเล็กน้อย แต่เป็นแคมเปญต่อเนื่องที่มีการแลกเปลี่ยนมากกว่าหลายสิบล้านครั้งในหลายพันบัญชี ซึ่งช่วยให้สามบริษัทสามารถประมาณความสามารถในการตัดสินใจ การใช้เครื่องมือ และการเขียนโค้ดระดับสูง โดยไม่ต้องรับผิดชอบต่อค่าใช้จ่ายด้านการวิจัยและวิศวกรรมที่สูงมาก ตัวเลขที่อ้างถึง—มากกว่า 16 ล้านการแลกเปลี่ยนในประมาณ 24,000 บัญชี—แสดงให้เห็นถึงระดับที่อาจทำให้ความคาดหวังเกี่ยวกับประสิทธิภาพของโมเดล ประสบการณ์ของลูกค้า และความสมบูรณ์ของข้อมูลสำหรับผู้ใช้ที่พึ่งพาบริการ Claude อาจเสี่ยงต่อความเสียหาย

สิ่งที่ข้อกล่าวหาเหล่านี้หมายถึงสำหรับผู้ใช้และผู้สร้าง

สำหรับผู้ปฏิบัติงานที่พัฒนาบน AI คดีนี้เน้นความสำคัญของความโปร่งใสในการแหล่งที่มา การควบคุมการเข้าถึง และการตรวจสอบการใช้งานของโมเดลอย่างต่อเนื่อง หากการกลั่นจากต่างประเทศสามารถขยายเพื่อสร้างตัวแทนที่ใช้งานได้จริงของความสามารถชั้นนำ ก็อาจเปิดโอกาสให้ความสามารถอันทรงพลังกลายเป็นสินค้าทั่วไปที่ได้จากการลงทุนจำนวนมาก ผลกระทบอาจไม่ใช่แค่การสูญเสียทรัพย์สินทางปัญญา แต่รวมถึงการเบี่ยงเบนพฤติกรรมของโมเดล การล้มเหลวของการบูรณาการเครื่องมือที่คาดหวัง หรือการแพร่กระจายผลลัพธ์ที่เปลี่ยนแปลงอย่างละเอียดอ่อนไปยังผู้ใช้ปลายทาง ผู้สร้างและผู้ดำเนินการบริการ AI—ไม่ว่าจะในด้านการเงิน สุขภาพ หรือเทคโนโลยีผู้บริโภค—อาจตอบสนองด้วยการตรวจสอบความเข้ากันได้ของบุคคลที่สาม ข้อตกลงด้านใบอนุญาตที่เข้มงวดยิ่งขึ้น และการตรวจจับความผิดปกติที่เพิ่มขึ้นในทราฟฟิก API และคำถามโมเดล

ข้อควรพิจารณาสำหรับระบบนิเวศคริปโต

แม้เหตุการณ์นี้จะเน้นไปที่ความปลอดภัยของโมเดล AI แต่ความเกี่ยวข้องกับตลาดคริปโตอยู่ที่ความสามารถของระบบสนับสนุนการตัดสินใจอัตโนมัติ บอทเทรด และเครื่องมือประเมินความเสี่ยง ที่พึ่งพาข้อมูล AI ที่เชื่อถือได้ ผู้เข้าร่วมตลาดและนักพัฒนาควรระวังความสมบูรณ์ของบริการ AI และความเป็นไปได้ที่ความสามารถที่ถูกลอกเลียนแบบหรือถูกทำซ้ำอาจส่งผลต่อระบบอัตโนมัติ สถานการณ์นี้ยังเน้นความจำเป็นในการร่วมมือกันของอุตสาหกรรมด้านภัยคุกคาม ข้อกำหนดด้านความโปร่งใสของแหล่งที่มาโมเดล และแนวปฏิบัติที่ดีที่สุดร่วมกัน ซึ่งสามารถช่วยป้องกันความเสี่ยงด้าน AI ที่อาจลามเข้าสู่เทคโนโลยีการเงินและแพลตฟอร์มสินทรัพย์ดิจิทัล

สิ่งที่ควรจับตาในระยะใกล้

อัปเดตจาก Anthropic เกี่ยวกับผลการค้นพบ ตัวชี้เป้าหมาย และความคืบหน้าในการแก้ไขปัญหา

คำชี้แจงหรือคำแถลงจาก DeepSeek, Moonshot และ Minimax เกี่ยวกับข้อกล่าวหา

แนวทางใหม่หรือการบังคับใช้กฎหมายจากหน่วยงานกำกับดูแลเกี่ยวกับการเข้าถึงโมเดล AI การแบ่งปันข้อมูลข้ามพรมแดน และมาตรการต่อต้านการละเมิดลิขสิทธิ์สำหรับโมเดลความสามารถสูง

เครื่องมือการตรวจสอบและกลยุทธ์การควบคุมการเข้าถึงที่พัฒนาขึ้นโดยผู้ให้บริการคลาวด์ที่โฮสต์โมเดล AI ขั้นหน้า

งานวิจัยอิสระที่ยืนยันหรือท้าทายวิธีการที่ใช้ในการตรวจจับรูปแบบกลั่นและขนาดของกิจกรรมที่อ้าง

ความร่วมมือในอุตสาหกรรมอาจเกิดขึ้นเพื่อกำหนดแนวปฏิบัติที่ดีที่สุดในการปกป้องความสามารถของโมเดลขั้นหน้าและการตรวจสอบกระบวนการกลั่นโมเดล

บทความนี้เผยแพร่ครั้งแรกในชื่อ Anthropic Says It’s Been Targeted by Massive Distillation Attacks on Crypto Breaking News — แหล่งข่าวที่เชื่อถือได้สำหรับข่าวคริปโต ข่าว Bitcoin และอัปเดตบล็อกเชน