Cánh Cửa Phòng Thí Nghiệm

Ngày trước, muốn mang một nhà máy về nhà, người ta phải tháo từng cỗ máy, thuê xe tải và đi qua rất nhiều cánh cổng. Trong thế giới AI, thành quả của một nhà máy trị giá hàng tỷ đô la đôi khi có thể nằm trong những tệp dữ liệu. Nếu những tệp ấy bị sao chép, kẻ lấy chúng không cần xây lại mọi thứ từ đầu

Những tệp quan trọng đó thường được gọi là trọng số mô hình. Có thể hình dung chúng như ký ức đã kết tinh sau quá trình học. Mã nguồn kể cách dựng nên một bộ não, còn trọng số chứa những gì bộ não ấy đã học được sau khi tiêu tốn một lượng máy móc và điện khổng lồ. Giữ được mã mà mất trọng số có thể giống như còn bản vẽ ngôi trường nhưng toàn bộ học sinh đã bị đưa sang nơi khác

Leopold cho rằng đây là một trong những điểm yếu nguy hiểm nhất của các phòng thí nghiệm AI. Nhiều công ty lớn lên từ văn hóa khởi nghiệp, nơi tốc độ, chia sẻ và thử nghiệm được đặt lên trước sự kín kẽ. Cách làm ấy rất hiệu quả khi thứ cần bảo vệ là một sản phẩm thương mại. Nó trở nên mong manh nếu tài sản bên trong có thể tạo ra lợi thế kinh tế hoặc quân sự cho cả một quốc gia

Mối đe dọa khi ấy cũng đổi hình dạng. Một kẻ tấn công thông thường muốn tiền, dữ liệu khách hàng hoặc cơ hội tống tiền. Một quốc gia có thể kiên nhẫn hơn, dành nhiều năm cài người, tìm mắt xích yếu nhất trong chuỗi cung ứng hay chờ một lần nhân viên bất cẩn. Cánh cửa chính có thể rất chắc, trong khi chiếc chìa khóa thật sự lại nằm ở máy tính của một nhà thầu nhỏ ít ai để ý

Bảo mật vì thế không chỉ là dựng thêm tường lửa. Nó đòi hỏi thiết kế lại phần cứng, chia nhỏ quyền truy cập, kiểm soát người có thể chạm vào tài sản quan trọng và chuẩn bị cho tình huống đối thủ đã ở bên trong. Càng siết chặt, công việc nghiên cứu càng chậm và văn hóa cởi mở càng khó giữ. Càng mở cửa, nguy cơ nhiều năm đầu tư bị sao chép trong một đêm càng lớn

Ở đây có một nghịch lý. Khoa học tiến lên nhờ con người công bố, kiểm chứng và xây tiếp trên khám phá của nhau. An ninh quốc gia lại tồn tại nhờ một số tri thức không rời khỏi căn phòng. Nếu AI ngày càng mạnh, xã hội sẽ phải quyết định phần nào nên là tài sản chung của nhân loại và phần nào cần được giữ kín, ít nhất trong một khoảng thời gian

Hắn không biết cánh cửa phòng thí nghiệm nên mở rộng đến đâu. Chỉ biết rằng thứ ở sau cánh cửa đang đổi khác nhanh hơn những chiếc khóa bảo vệ nó. Đến một lúc, câu hỏi không còn là ai có thể xây được trí tuệ mạnh nhất, mà là ai có thể giữ nó đủ lâu để quyết định phải làm gì tiếp theo

❤️ cowriter aethery