Anthropic quyên góp 20 triệu USD cho "Tổ chức hành động ưu tiên công cộng", thúc đẩy phòng thủ AI

Anthropic công bố quyên góp 20 triệu USD cho Public First Action (Tổ chức hành động ưu tiên công cộng, viết tắt là PFA), nhằm hỗ trợ các sáng kiến liên quan đến quản trị trí tuệ nhân tạo. Anthropic cho biết số tiền này sẽ được sử dụng để thúc đẩy giáo dục cộng đồng về trí tuệ nhân tạo và xây dựng khung pháp lý, đặc biệt là các biện pháp quản lý rủi ro tiềm ẩn, bao gồm phòng ngừa các cuộc tấn công mạng tự động và việc sử dụng công nghệ AI để chế tạo vũ khí, cũng như các tình huống rủi ro liên quan đến AI.

Anthropic: Phát triển trí tuệ nhân tạo mang lại rủi ro, quốc gia cần thúc đẩy chính sách bảo vệ an toàn

Anthropic chỉ ra rằng trí tuệ nhân tạo có triển vọng mang lại lợi ích rộng rãi trong các lĩnh vực như nghiên cứu khoa học, đổi mới công nghệ, y tế và tăng trưởng kinh tế, nhưng các rủi ro tiềm ẩn cũng không thể bỏ qua. Các rủi ro này xuất phát từ việc công nghệ bị lạm dụng, như bị dùng để tấn công mạng tự động hoặc trong tương lai có thể được ứng dụng để chế tạo vũ khí nguy hiểm, thậm chí còn có khả năng mô hình AI nâng cao vượt khỏi ý định của người dùng, gây ra các hành vi khó kiểm soát. Khi các mô hình AI liên tục được cập nhật và phát triển, việc quản lý các rủi ro tiềm ẩn trong khi thúc đẩy đổi mới sẽ trở thành một vấn đề quan trọng trong sự phát triển của trí tuệ nhân tạo.

Khả năng của các mô hình AI đang tiến bộ nhanh chóng, từ các chatbot phát triển đến các AI đại diện có thể thực hiện các nhiệm vụ phức tạp, nhiều bước. Anthropic cho biết để đối mặt với thách thức từ sự tiến bộ không ngừng của các mô hình AI mới, công ty liên tục nâng cao tiêu chuẩn tuyển dụng kỹ sư phần mềm, đưa ra các bài kiểm tra khó khăn để phù hợp với sự phát triển nhanh chóng của AI.

Với tình hình này, Anthropic cho rằng tốc độ phổ biến của AI đang vượt xa so với các công nghệ trước đây, nhưng tốc độ xây dựng chính sách về AI lại chậm lại. Hiện tại, chưa có cơ chế quản lý chính thức toàn diện từ chính phủ, cũng thiếu khung chính sách liên bang toàn diện, khiến các cuộc thảo luận về chính sách trở nên phân tán. Anthropic cho biết trong vài năm tới, các chính sách về AI sẽ ảnh hưởng đến thị trường lao động, bảo vệ trẻ em, an ninh quốc gia và quyền lực quốc tế, do đó cần thiết lập một hệ thống quản lý linh hoạt và có khả năng phản ứng nhanh, nhằm cân bằng giữa đổi mới và rủi ro.

Quyên góp 20 triệu USD cho “Tổ chức hành động ưu tiên công cộng”, không mang tính chính trị cụ thể

Anthropic cho biết việc quyên góp 20 triệu USD cho tổ chức này không xuất phát từ lập trường chính trị, cũng không chỉ vì lợi ích của công ty, nhấn mạnh rằng các nhà phát triển trí tuệ nhân tạo có trách nhiệm đảm bảo công nghệ phù hợp với lợi ích cộng đồng. Hành động quyên góp này phản ánh quan điểm đó.

Tổ chức hành động ưu tiên công cộng không phải là một tổ chức vận động theo nghĩa truyền thống, mà là một nhóm sáng kiến chính trị. Các vấn đề mà tổ chức này quan tâm bao gồm bảo vệ quyền lợi của trẻ em, người lao động và công chúng, tăng cường kiểm soát xuất khẩu các bán dẫn tiên tiến của Mỹ, nâng cao tính minh bạch của các phòng thí nghiệm AI, và giảm thiểu các rủi ro lớn của AI. “Hành động ưu tiên công cộng” tích cực ủng hộ các cơ quan lập pháp bang và địa phương trong việc giải quyết các vấn đề mới nổi của AI, phản đối chính phủ liên bang cản trở tiến trình của các bang trong lĩnh vực AI khi thiếu các biện pháp bảo vệ toàn diện. Tổ chức này do các chính trị gia thuộc nhiều đảng phái tại Mỹ thành lập. Đáng chú ý, mặc dù Anthropic khẳng định quyên góp không liên quan đến việc ủng hộ đảng phái nào, nhưng gần đây tổ chức này đã hỗ trợ ứng cử viên Thượng nghị sĩ đảng Cộng hòa của Tennessee, Martha Black, tranh cử chức thống đốc.

Bài viết này về việc Anthropic quyên 20 triệu USD cho “Tổ chức hành động ưu tiên công cộng” nhằm thúc đẩy phòng thủ AI lần đầu xuất hiện trên trang tin ABMedia.