Một Manhattan Project Cho AGI

Một công ty có thể bắt đầu từ căn phòng nhỏ với vài chiếc bàn, một ý tưởng và số tiền vừa đủ sống qua vài tháng. Những điều quan trọng của thời đại công nghệ từng lớn lên theo cách ấy. Nhà nước thường đứng ngoài, chờ sản phẩm thành hình rồi mới đến đặt luật hoặc thu thuế

AGI có thể làm con đường ấy đổi hướng. Khi chi phí hạ tầng tiến đến quy mô của những dự án năng lượng, khi bí mật bên trong trở thành mục tiêu của tình báo và khi một thất bại có thể ảnh hưởng vượt xa khách hàng của công ty, chính phủ khó còn đóng vai người đứng xem. Theo Leopold, sự can dự ấy không chỉ có khả năng xảy ra mà gần như là hệ quả tự nhiên của quy mô

Ông gọi hình hài tương lai đó là The Project, gợi lại Manhattan Project từng tập hợp nhà khoa học, quân đội, công nghiệp và nguồn lực quốc gia để chế tạo bom nguyên tử. Điểm so sánh không nằm ở loại vũ khí. Nó nằm ở khoảnh khắc một công nghệ trở nên quá quan trọng để được phát triển như một sản phẩm bình thường, buộc cả bộ máy nhà nước phải tổ chức lại quanh nó

Một dự án như vậy có thể giải quyết những việc thị trường làm chưa tốt. Nhà nước có thể huy động điện, xây hạ tầng, bảo vệ phòng thí nghiệm và buộc các bên phối hợp thay vì chạy đua mù quáng. Trong tình huống khẩn cấp, một chuỗi chỉ huy rõ ràng cũng có thể tốt hơn việc những quyết định ảnh hưởng đến nhân loại nằm giữa hội đồng quản trị, nhà đầu tư và vài nhà sáng lập

Nhưng quyền lực tập trung luôn mang theo cái giá riêng. Bộ máy lớn thường chậm, dễ bị chính trị chi phối và có xu hướng giữ bí mật ngay cả khi xã hội cần được biết. Một dự án nhân danh an toàn có thể trở thành công cụ giám sát. Một cơ chế được dựng lên để quản lý thời khắc khẩn cấp có thể ở lại rất lâu sau khi thời khắc ấy đi qua

Leopold chủ yếu đưa ra một dự báo mang tính mô tả: khi giới lãnh đạo thật sự tin AGI có ý nghĩa quân sự và kinh tế quyết định, họ sẽ không để vài công ty tư nhân tự chọn đường đi. Điều còn bỏ ngỏ là hình thức can dự. Nhà nước có thể quốc hữu hóa, ký hợp đồng, lập liên minh hoặc dựng một cấu trúc nửa công nửa tư. Tên gọi ít quan trọng hơn câu hỏi ai có quyền quyết định và ai kiểm tra người quyết định ấy

Hắn không chắc nhân loại cần một Manhattan Project cho AGI. Hắn chỉ thấy rằng nếu ngày đó đến, cuộc tranh luận không nên bắt đầu vào buổi sáng chính phủ đã bước qua cánh cửa phòng thí nghiệm. Những thiết chế tốt hiếm khi được dựng nên trong hoảng loạn. Ta có đang chuẩn bị cho cách quản lý quyền lực ấy, hay chỉ chuẩn bị thêm điện để làm cho nó lớn hơn

❤️ cowriter aethery