Siêu trí tuệ an toàn của Ilya Sutskever: Bước tiến hay cạm bẫy tập trung hóa?

Tôi vẫn nhớ cảm giác lần đầu đọc whitepaper Bitcoin năm 2017 – một hệ thống tiền tệ phi tập trung, không cần tin tưởng ai. Khi đó, tôi tin rằng công nghệ phân tán là chìa khóa cho tương lai. Vậy mà hôm nay, khi Ilya Sutskever – người từng dẫn dắt nhóm siêu căn chỉnh (superalignment) tại OpenAI – công bố thỏa thuận với Nvidia để tăng gấp 10 lần sức mạnh tính toán cho startup của mình, tôi không khỏi giật mình. Liệu 'siêu trí tuệ an toàn' (Safe SuperIntelligence - SSI) có đang tạo ra một đế chế AI tập trung hơn bao giờ hết? Hay đây là con đường duy nhất để đạt được sự an toàn thực sự? Bối cảnh thật rõ ràng: Ilya, người đồng sáng lập và cựu nhà khoa học trưởng của OpenAI, thành lập SSI với sứ mệnh xây dựng một siêu trí tuệ nhân tạo an toàn, vượt xa khả năng của con người. Không giống như OpenAI hay Anthropic, SSI không có sản phẩm thương mại, không có API, không có khách hàng. Họ chỉ có một mục tiêu duy nhất: nghiên cứu thuần túy về căn chỉnh và an toàn. Và để làm được điều đó, họ cần sức mạnh tính toán khổng lồ. Thỏa thuận với Nvidia – nhà cung cấp chip AI hàng đầu thế giới – là bước đi hợp lý: tăng 10 lần năng lực tính toán, đồng nghĩa với việc có thể huấn luyện các mô hình có quy mô hàng nghìn tỷ tham số. Nhưng hãy nhìn kỹ vào con số 10 lần. Nếu baseline của SSI là một cụm 10.000 GPU H100, thì 10 lần có nghĩa là 100.000 GPU H100 hoặc tương đương. Một cụm như vậy tiêu thụ 30-40 MW điện, chi phí vận hành và mua sắm lên đến hàng tỷ đô la mỗi năm. Đây không chỉ là một khoản đầu tư – nó là một tuyên ngôn: SSI tin tưởng tuyệt đối vào luật mở rộng (scaling law), rằng việc tăng quy mô mô hình và dữ liệu sẽ dẫn đến siêu trí tuệ. Nhưng điều gì xảy ra nếu giả thuyết đó sai? Nếu mô hình 10 lần lớn hơn vẫn không đạt được sự an toàn mong muốn? Lúc đó, 100.000 GPU sẽ trở thành một gánh nặng khủng khiếp. Từ góc nhìn của một người theo đuổi blockchain, tôi thấy một nghịch lý sâu sắc: để tạo ra một siêu trí tuệ an toàn, SSI đang xây dựng một hệ thống cực kỳ tập trung. Mọi quyền lực đều nằm trong tay Ilya và nhóm của anh ta, mọi tính toán đều phụ thuộc vào một nhà cung cấp duy nhất là Nvidia. Không có sự minh bạch, không có sự phân tán, không có cơ chế kiểm tra độc lập. Điều này mâu thuẫn hoàn toàn với triết lý phi tập trung mà tôi từng theo đuổi. Nhưng liệu có cách nào khác? Có thể xây dựng siêu trí tuệ an toàn trên nền tảng phân tán, với hàng nghìn node cùng tham gia huấn luyện? Về mặt kỹ thuật, điều đó gần như bất khả thi hiện tại do nhu cầu băng thông và độ trễ cực thấp. Góc nhìn phản trực giác: 'An toàn' có thể chỉ là cái cớ để xây dựng một mô hình mạnh hơn. Hãy nhìn vào lịch sử: mọi công ty AI đều hứa hẹn an toàn, nhưng cuối cùng lại đẩy mạnh thương mại hóa. OpenAI từng là phi lợi nhuận, giờ là công ty trị giá hàng trăm tỷ. Anthropic cũng tuyên bố ưu tiên an toàn, nhưng vẫn ra mắt Claude với tốc độ chóng mặt. SSI có thể đi theo con đường tương tự: sau khi đạt được siêu trí tuệ, họ sẽ phải đối mặt với áp lực thương mại hóa từ các nhà đầu tư (nếu có). Và khi đó, sự an toàn có còn được ưu tiên? Tôi đã chứng kiến quá nhiều dự án blockchain hứa hẹn phi tập trung rồi trở thành công ty tập trung. Bài học đó lặp lại. Nhưng cũng có một khả năng khác: SSI thực sự nghiêm túc về an toàn. Ilya từng cảnh báo về nguy cơ tồn tại từ AI, và ông ấy rời OpenAI vì bất đồng về tốc độ thương mại hóa. Nếu ai đó có thể làm được, đó là Ilya. Và sự hợp tác với Nvidia có thể là con dao hai lưỡi: Nvidia cũng muốn đảm bảo rằng khách hàng lớn nhất của họ thành công, nên họ sẽ hỗ trợ tối đa. Nhưng liệu sự phụ thuộc vào một công ty chip có tạo ra điểm yếu chiến lược? Nếu Mỹ áp đặt lệnh cấm xuất khẩu chip, SSI sẽ sụp đổ ngay lập tức. Một hệ thống phân tán, dựa trên nhiều nhà cung cấp và nhiều trung tâm dữ liệu, sẽ linh hoạt hơn. Tôi nhớ lại năm 2022, khi thị trường gấu khiến tôi kiệt sức và hoài nghi về mọi lời hứa phi tập trung. Tôi đã rút lui, viết nhật ký, và cuối cùng tìm thấy hy vọng qua cộng đồng mã nguồn mở. Có lẽ bài học đó áp dụng ở đây: sự tập trung có thể hiệu quả trong ngắn hạn, nhưng dễ tổn thương. Một siêu trí tuệ thực sự an toàn cần được xây dựng trên nền tảng mở, với sự tham gia của nhiều bên, và được kiểm toán công khai. SSI có thể là bước đầu, nhưng đừng để nó trở thành đỉnh cao cuối cùng. Vậy, tôi sẽ theo dõi SSI như một thí nghiệm: liệu một công ty tập trung, với nguồn lực khổng lồ, có thể tạo ra một công nghệ an toàn vì lợi ích chung? Hay nó sẽ lặp lại kịch bản của những gã khổng lồ công nghệ trước đây? Câu trả lời nằm ở cách họ chia sẻ kết quả. Nếu SSI công bố các bài báo khoa học, mở mã nguồn các công cụ căn chỉnh, và cho phép kiểm toán độc lập, tôi sẽ tin. Nếu họ giữ bí mật, thì đó chỉ là một đế chế khác ngụy trang dưới vỏ bọc an toàn. Và như một người từng chứng kiến sự sụp đổ của nhiều hệ thống tập trung, tôi hy vọng họ chọn con đường mở.