Khi Trí Tuệ Tự Cải Thiện Chính Mình

Một người thợ có thể dùng chiếc búa để làm ra chiếc búa tốt hơn. Công việc ấy vẫn chậm, vì đôi tay của người thợ chỉ có hai và một ngày vẫn chỉ có hai mươi bốn giờ. Nếu một ngày chiếc búa biết tự thiết kế thế hệ kế tiếp của nó, câu chuyện sẽ bước sang một nhịp khác

Đây là phần táo bạo nhất trong Situational Awareness. Leopold cho rằng khi AI đạt đến mức có thể tự động hóa công việc của những nhà nghiên cứu AI, nó không chỉ thay thế thêm một nghề. Nó bắt đầu tham gia vào quá trình tạo ra chính những hệ thống thông minh hơn mình. Sản phẩm trở thành người thợ, còn người thợ lại làm ra một sản phẩm giỏi hơn

Một phòng nghiên cứu hôm nay bị giới hạn bởi số người tài, số giờ họ có thể tập trung và tốc độ của những thử nghiệm nối tiếp nhau. Những nhà nghiên cứu bằng máy có thể được nhân thành hàng nghìn bản, làm việc đồng thời, đọc lại mọi kết quả và không cần chờ sáng hôm sau mới tiếp tục. Một năm nghiên cứu của con người khi ấy có thể bị nén lại thành vài tháng, vài tuần, hoặc ngắn hơn nữa

Người ta gọi khả năng tăng tốc ấy là bùng nổ trí tuệ. Cái tên nghe như một khoảnh khắc, nhưng thực tế có thể là một con dốc. Ban đầu AI chỉ giúp viết mã, tìm tài liệu và chuẩn bị thí nghiệm. Sau đó nó đề xuất hướng nghiên cứu, phát hiện sai lầm và thiết kế mô hình mới. Mỗi bước làm năng lực nghiên cứu mạnh hơn, rồi năng lực nghiên cứu ấy lại tạo ra bước tiếp theo

Con dốc này không nhất thiết trơn tru. Thí nghiệm vẫn cần chip, nhà máy vẫn cần được xây, những ý tưởng mới có thể gặp bức tường mà lượng tính toán không phá nổi. Nghiên cứu khoa học còn phụ thuộc vào thế giới vật lý, nơi nguyên tử không chạy nhanh hơn chỉ vì ta sốt ruột. Giữa một AI viết được kế hoạch và một cỗ máy thật sự hoạt động vẫn có khoảng cách của vật liệu, sản xuất và thời gian

Dù vậy, chỉ cần AI tự động hóa được một phần đáng kể của nghiên cứu phần mềm, chiếc đồng hồ của ngành đã thay đổi. Trước đây, con người dùng máy tính như một chiếc kính để nhìn xa hơn. Trong kịch bản này, chiếc kính bắt đầu mài ra những thấu kính mới. Ta không còn chỉ hỏi mô hình kế tiếp sẽ thông minh đến đâu, mà phải hỏi ai đang quyết định hướng của quá trình tự cải thiện ấy

Điều khiến hắn bận tâm không phải hình ảnh một cỗ máy bỗng thức tỉnh trong đêm. Nó là khả năng mọi thứ vẫn diễn ra trong những căn phòng sáng đèn, qua hàng nghìn bản cập nhật có vẻ hợp lý, cho đến khi nhịp tiến bộ không còn vừa với nhịp suy nghĩ của con người. Nếu trí tuệ có thể giúp sinh ra nhiều trí tuệ hơn, ai sẽ là người kịp đặt tay lên bánh lái

❤️ cowriter aethery