Anthropic กล่าวว่าถูกโจมตีด้วยการกลั่นกรองขนาดใหญ่

ผู้พัฒนา AI ของ Frontier อย่าง Anthropic ได้ออกมาเปิดเผยต่อสาธารณะว่าได้กล่าวหา 3 ห้องปฏิบัติการ AI ของจีน—DeepSeek, Moonshot และ Minimax—ว่ากำลังดำเนินการโจมตีแบบกลั่น (distillation attacks) เพื่อดูดซับความสามารถจาก Claude ซึ่งเป็นโมเดลภาษาขนาดใหญ่ของ Anthropic ในโพสต์บล็อกอย่างละเอียด บริษัทอธิบายถึงแคมเปญที่อ้างว่ามีการสร้างการแลกเปลี่ยนข้อมูลกว่า 16 ล้านครั้ง ผ่านบัญชีปลอมประมาณ 24,000 บัญชี โดยใช้ผลลัพธ์ของ Claude เพื่อฝึกโมเดลที่มีความสามารถน้อยกว่า การกลั่น (distillation) ซึ่งเป็นเทคนิคการฝึกอบรมที่เป็นที่ยอมรับใน AI กลายเป็นปัญหาเมื่อใช้งานในระดับใหญ่เพื่อคัดลอกคุณสมบัติที่ทรงพลังโดยไม่ต้องรับผิดชอบต้นทุนการพัฒนาที่สูง Anthropic เน้นย้ำว่าแม้การกลั่นจะมีการใช้งานที่ถูกต้องตามกฎหมาย แต่ก็สามารถเปิดโอกาสให้คู่แข่งใช้เทคนิคนี้เพื่อเร่งรัดความก้าวหน้าและพัฒนาผลิตภัณฑ์ของตนเองในเวลาที่น้อยลงและต้นทุนที่ต่ำลง

สาระสำคัญ

การกลั่นเป็นการฝึกโมเดลที่อ่อนแอกว่าบนผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า ซึ่งเป็นวิธีที่ใช้กันอย่างแพร่หลายในการสร้างเวอร์ชันเล็กลงและราคาถูกลงของระบบ AI

Anthropic กล่าวหา DeepSeek, Moonshot และ Minimax ว่ากำลังดำเนินแคมเปญกลั่นในระดับมวลชน สร้างการโต้ตอบกับ Claude นับล้านครั้ง ผ่านบัญชีปลอมหลายหมื่นบัญชี

การโจมตีดังกล่าวมุ่งเน้นไปที่ความสามารถเฉพาะของ Claude รวมถึงการคิดเชิงตัวแทน การใช้เครื่องมือ และการเขียนโค้ด ซึ่งชี้ให้เห็นว่ามุ่งเป้าหาความสามารถที่มีมูลค่าสูงและสามารถถ่ายโอนได้

บริษัทชี้ว่าการดำเนินการกลั่นจากต่างประเทศเสี่ยงต่อความขัดแย้งทางภูมิรัฐศาสตร์ อาจเป็นการเสริมอำนาจให้กับฝ่ายเผด็จการในการดำเนินการทางไซเบอร์ การเผยแพร่ข้อมูลเท็จ และการสอดแนม

Anthropic ระบุว่าจะเสริมสร้างการตรวจจับ แบ่งปันข้อมูลภัยคุกคาม และเข้มงวดการควบคุมการเข้าถึง พร้อมเรียกร้องความร่วมมือในอุตสาหกรรมและการมีส่วนร่วมของหน่วยงานกำกับดูแลเพื่อรับมือกับภัยคุกคามเหล่านี้

บริบทตลาด: เหตุการณ์นี้เกิดขึ้นในช่วงที่มีการตรวจสอบความสามารถในการทำงานร่วมกันของโมเดล AI และความปลอดภัยของบริการ AI บนคลาวด์ ซึ่งเป็นพื้นฐานที่เกี่ยวข้องกับระบบอัตโนมัติในตลาดคริปโตและเครื่องมือบริหารความเสี่ยงต่าง ๆ ขณะที่โมเดล AI ฝังตัวในด้านการเทรด การประเมินความเสี่ยง และการสนับสนุนการตัดสินใจ การรักษาความสมบูรณ์ของข้อมูลเข้าและผลลัพธ์ของโมเดลจึงเป็นสิ่งสำคัญสำหรับทั้งนักพัฒนาและผู้ใช้งานในวงการคริปโต

ทำไมเรื่องนี้ถึงสำคัญ

ข้อกล่าวหานี้เน้นความตึงเครียดในหัวใจของ AI ขั้นหน้า: เส้นแบ่งระหว่างการกลั่นโมเดลที่ถูกต้องตามกฎหมายและการทำซ้ำแบบเอารัดเอาเปรียบ การกลั่นเป็นแนวปฏิบัติที่ใช้กันอย่างแพร่หลายและถูกต้องตามกฎหมายในห้องปฏิบัติการเพื่อสร้างเวอร์ชันที่เล็กลงและราคาถูกลงของโมเดลสำหรับลูกค้าที่มีงบประมาณจำกัด แต่เมื่อใช้งานในระดับใหญ่ในระบบนิเวศเดียวกัน เทคนิคนี้อาจถูกใช้เพื่อดึงความสามารถที่ต้องใช้การวิจัยและวิศวกรรมอย่างมากออกมา หากเป็นการยืนยัน แคมเปญเหล่านี้อาจกระตุ้นให้เกิดการทบทวนแนวทางการควบคุม การตรวจสอบ และการตรวจสอบการเข้าถึงโมเดลที่ทรงพลัง โดยเฉพาะสำหรับบริษัทที่มีการดำเนินงานระดับโลกและมีโครงสร้างคลาวด์ซับซ้อน

Anthropic ยืนยันว่าบริษัททั้งสามดำเนินกิจกรรมที่ออกแบบมาเพื่อเก็บเกี่ยวความสามารถขั้นสูงของ Claude โดยใช้การเชื่อมโยง IP-address ข้อมูลคำขอ และตัวบ่งชี้โครงสร้างพื้นฐาน พร้อมการสนับสนุนจากพันธมิตรในอุตสาหกรรม ซึ่งบ่งชี้ว่ามีความพยายามที่เป็นระบบและอิงข้อมูลในการสำรวจและทำซ้ำความสามารถของ AI บนคลาวด์ ไม่ใช่แค่การทดลองแบบแยกส่วน ข้อมูลที่อ้างถึง—การโต้ตอบนับสิบล้านครั้งในบัญชีปลอมหลายพันบัญชี—ยกคำถามเกี่ยวกับมาตรการป้องกันที่มีอยู่เพื่อค้นหาและหยุดยั้งรูปแบบเช่นนี้ รวมถึงกรอบความรับผิดชอบที่ควบคุมคู่แข่งต่างประเทศที่ดำเนินกิจกรรมในพื้นที่ AI ซึ่งมีผลกระทบโดยตรงต่อความมั่นคงและเศรษฐกิจของประเทศ

“การกลั่นเป็นวิธีการฝึกอบรมที่ใช้กันอย่างแพร่หลายและถูกต้องตามกฎหมาย ตัวอย่างเช่น ห้องปฏิบัติการ AI ขั้นหน้าใช้เทคนิคนี้เพื่อสร้างเวอร์ชันที่เล็กลงและราคาถูกลงสำหรับลูกค้า” Anthropic เขียน พร้อมเสริมว่า:

“แต่การกลั่นก็สามารถถูกใช้ในทางผิดกฎหมายได้เช่นกัน: คู่แข่งสามารถใช้มันเพื่อเข้าถึงความสามารถอันทรงพลังจากห้องปฏิบัติการอื่นในเวลาที่น้อยลงและต้นทุนที่ต่ำลงกว่าการพัฒนาด้วยตนเอง”

นอกจากประเด็นด้านทรัพย์สินทางปัญญาแล้ว Anthropic ยังเชื่อมโยงกิจกรรมที่กล่าวหาไปยังความเสี่ยงด้านกลยุทธ์เพื่อความมั่นคงของชาติ โดยอ้างว่าการโจมตีด้วยเทคนิคกลั่นจากห้องปฏิบัติการต่างประเทศอาจสนับสนุนระบบทางทหาร สายลับ และการสอดแนม บริษัทชี้ว่าความสามารถที่ไม่ได้รับการปกป้องอาจเปิดโอกาสให้ดำเนินการไซเบอร์เชิงรุก โฆษณาชวนเชื่อ และการสอดแนมจำนวนมาก ซึ่งซับซ้อนต่อการวางแผนด้านภูมิรัฐศาสตร์สำหรับนักการเมืองและอุตสาหกรรมทั้งหลาย ข้อความนี้จึงไม่ใช่แค่ข้อพิพาทด้านการแข่งขัน แต่เป็นเรื่องที่มีผลกระทบกว้างขวางต่อการปกป้องและการกำกับดูแลเทคโนโลยี AI ขั้นหน้า

ในแนวทางการดำเนินการต่อไป Anthropic ระบุว่าจะเสริมสร้างระบบตรวจจับเพื่อระบุพฤติกรรมการจราจรที่น่าสงสัย เร่งแบ่งปันข้อมูลภัยคุกคาม และเข้มงวดการควบคุมการเข้าถึง พร้อมเรียกร้องให้ภาคอุตสาหกรรมและหน่วยงานกำกับดูแลร่วมมือกันอย่างใกล้ชิดในการต่อต้านกิจกรรมของผู้ดำเนินการกลั่นจากต่างประเทศ ซึ่งเป็นสิ่งจำเป็นเพื่อควบคุมกิจกรรมเหล่านี้ในระดับใหญ่

สำหรับผู้อ่านที่ติดตามแนวหน้าของนโยบาย AI ข้อกล่าวหานี้สะท้อนให้เห็นถึงการถกเถียงอย่างต่อเนื่องเกี่ยวกับการสมดุลระหว่างนวัตกรรมและความปลอดภัย—ประเด็นที่กำลังเป็นหัวข้อในวงสนทนาเรื่องการกำกับดูแล การควบคุมการส่งออก และการไหลของข้อมูลข้ามพรมแดน อุตสาหกรรมโดยรวมได้เผชิญกับความท้าทายในการป้องกันการใช้งานในทางผิดโดยไม่ขัดขวางการทดลองที่ถูกต้องตามกฎหมาย ซึ่งเป็นความตึงเครียดที่น่าจับตามองในความพยายามกำหนดกฎระเบียบและมาตรฐานในอนาคต

สิ่งที่ควรจับตาต่อไป

Anthropic และบริษัทที่ถูกกล่าวหาอาจเผยแพร่รายละเอียดเพิ่มเติมหรือคำชี้แจงเกี่ยวกับข้อกล่าวหาและการตอบสนองของพวกเขา

หน่วยงานด้านข้อมูลภัยคุกคามและผู้ให้บริการคลาวด์อาจปล่อยตัวชี้วัดการบุกรุกหรือแนวทางป้องกันใหม่ที่เกี่ยวข้องกับการโจมตีแบบกลั่น

หน่วยงานกำกับดูแลและนักกฎหมายอาจออกนโยบายใหม่หรือปรับปรุงนโยบายเกี่ยวกับการเข้าถึงโมเดล AI การแบ่งปันข้อมูลข้ามพรมแดน และมาตรการต่อต้านการละเมิดลิขสิทธิ์สำหรับโมเดลความสามารถสูง

นักวิจัยอิสระและบริษัทด้านความปลอดภัยอาจทำซ้ำหรือท้าทายวิธีการที่ใช้ในการระบุแคมเปญดังกล่าว ซึ่งอาจขยายฐานข้อมูลหลักฐาน

ความร่วมมือในอุตสาหกรรมอาจเกิดขึ้นเพื่อกำหนดแนวปฏิบัติที่ดีที่สุดในการปกป้องความสามารถของโมเดลขั้นหน้าและการตรวจสอบกระบวนการกลั่นโมเดล

แหล่งข้อมูลและการตรวจสอบ

บทความบล็อกของ Anthropic: Detecting and Preventing Distillation Attacks — คำแถลงอย่างเป็นทางการเกี่ยวกับข้อกล่าวหาและแคมเปญที่อธิบายไว้

โพสต์บน X ของ Anthropic ที่อ้างอิงในข้อมูลเปิดเผย — บันทึกสาธารณะของผลการค้นพบของบริษัทในเวลานั้น

การรายงานของ Cointelegraph และเอกสารเชื่อมโยงที่พูดถึง AI ตัวแทน ระบบ AI ขั้นหน้า และความกังวลด้านความปลอดภัยที่เกี่ยวข้องในบทความ

การอภิปรายที่เกี่ยวข้องเกี่ยวกับบทบาทของการกลั่นในกระบวนการฝึก AI และการใช้งานในสภาพแวดล้อมการแข่งขัน

การโจมตีแบบกลั่นและความปลอดภัยของ AI ขั้นหน้า

ข้อกล่าวหาหลักอยู่บนพื้นฐานของการใช้ประโยชน์อย่างเป็นระบบจากการกลั่น ซึ่งผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า—ในกรณีนี้คือ Claude—ถูกนำไปใช้ฝึกโมเดลทางเลือกที่เลียนแบบหรือประมาณความสามารถของมัน Anthropic ยืนยันว่านี่ไม่ใช่การรั่วไหลเล็กน้อย แต่เป็นแคมเปญต่อเนื่องที่มีการแลกเปลี่ยนข้อมูลนับสิบล้านครั้ง ทำให้สามบริษัทสามารถประมาณความสามารถในการตัดสินใจ การใช้เครื่องมือ และการเขียนโค้ดระดับสูงโดยไม่ต้องรับผิดชอบต้นทุนการวิจัยและพัฒนาที่สูง ตัวเลขที่อ้างถึง—มากกว่า 16 ล้านการแลกเปลี่ยนในประมาณ 24,000 บัญชีปลอม—แสดงให้เห็นถึงระดับที่อาจทำให้ความคาดหวังเกี่ยวกับประสิทธิภาพของโมเดล ประสบการณ์ของลูกค้า และความสมบูรณ์ของข้อมูลสำหรับผู้ใช้ที่พึ่งพาบริการ Claude เสียหาย

สิ่งที่ข้อกล่าวหาเหล่านี้หมายความต่อผู้ใช้และผู้สร้าง

สำหรับผู้ปฏิบัติการที่สร้างบน AI คดีนี้เน้นความสำคัญของความน่าเชื่อถือของแหล่งที่มา การควบคุมการเข้าถึง และการตรวจสอบการใช้งานโมเดลอย่างต่อเนื่อง หากการกลั่นจากต่างประเทศสามารถขยายเพื่อสร้างตัวแทนที่ใช้งานได้จริงของความสามารถชั้นนำแล้ว โอกาสในการทำให้คุณสมบัติที่ทรงพลังกลายเป็นสินค้าในวงกว้างก็เปิดกว้างขึ้น ซึ่งอาจส่งผลต่อทรัพย์สินทางปัญญา การเปลี่ยนแปลงพฤติกรรมของโมเดล การล้มเหลวของการบูรณาการเครื่องมือ หรือการแพร่กระจายของผลลัพธ์ที่เปลี่ยนแปลงอย่างละเอียดอ่อนไปยังผู้ใช้ปลายทาง ผู้สร้างและผู้ดำเนินการบริการ AI—ไม่ว่าจะในด้านการเงิน การดูแลสุขภาพ หรือเทคโนโลยีผู้บริโภค—อาจตอบสนองด้วยการตรวจสอบความเข้ากันได้ของบุคคลที่สาม ข้อกำหนดด้านใบอนุญาตที่เข้มงวดยิ่งขึ้น และการตรวจจับความผิดปกติที่เพิ่มขึ้นรอบ ๆ การจราจร API และคำถามโมเดล

ข้อควรพิจารณาสำหรับระบบนิเวศคริปโต

แม้เหตุการณ์นี้จะเน้นไปที่ความปลอดภัยของโมเดล AI แต่ความเกี่ยวข้องกับตลาดคริปโตอยู่ที่ความสามารถของระบบสนับสนุนการตัดสินใจอัตโนมัติ บอทเทรด และเครื่องมือประเมินความเสี่ยงในการพึ่งพาข้อมูล AI ที่เชื่อถือได้ ผู้เข้าร่วมตลาดและนักพัฒนาควรระวังความสมบูรณ์ของบริการ AI และความเสี่ยงที่ความสามารถที่ถูกทำซ้ำหรือถูกโจรกรรมอาจส่งผลต่อระบบอัตโนมัติ สถานการณ์นี้ยังเน้นความจำเป็นในการร่วมมือกันของอุตสาหกรรมในการแบ่งปันข้อมูลภัยคุกคาม มาตรฐานความน่าเชื่อถือของแหล่งที่มา และแนวปฏิบัติที่ดีที่สุดเพื่อป้องกันความเสี่ยงของ AI ที่อาจลุกลามเข้าสู่เทคโนโลยีการเงินและแพลตฟอร์มสินทรัพย์ดิจิทัล

สิ่งที่ควรจับตาในระยะใกล้

อัปเดตจาก Anthropic เกี่ยวกับผลการค้นพบ ตัวชี้วัดการบุกรุก และความคืบหน้าในการแก้ไขปัญหา

คำชี้แจงหรือคำแถลงจาก DeepSeek, Moonshot และ Minimax เกี่ยวกับข้อกล่าวหา

แนวทางใหม่หรือการบังคับใช้กฎหมายจากหน่วยงานกำกับดูแลเกี่ยวกับการเข้าถึงโมเดล AI การแบ่งปันข้อมูลข้ามพรมแดน และมาตรการต่อต้านการละเมิดลิขสิทธิ์สำหรับโมเดลความสามารถสูง

เครื่องมือการตรวจสอบและกลยุทธ์การควบคุมการเข้าถึงที่พัฒนาขึ้นโดยผู้ให้บริการคลาวด์ที่โฮสต์โมเดล AI ขั้นหน้า

งานวิจัยอิสระที่ยืนยันหรือท้าทายวิธีการตรวจจับรูปแบบกลั่นและขนาดของกิจกรรมที่อ้างถึง

ความร่วมมือในอุตสาหกรรมอาจเกิดขึ้นเพื่อกำหนดแนวปฏิบัติที่ดีที่สุดในการปกป้องความสามารถของโมเดลขั้นหน้าและการตรวจสอบกระบวนการกลั่นโมเดล

บทความนี้เผยแพร่ครั้งแรกในฐานะ Anthropic Says It’s Been Targeted by Massive Distillation Attacks on Crypto Breaking News — แหล่งข่าวที่เชื่อถือได้สำหรับข่าวคริปโต ข่าว Bitcoin และอัปเดตบล็อกเชน