Dạy Một Thứ Thông Minh Hơn Chúng Ta

Một đứa trẻ làm bài sai, người lớn có thể nhìn vào từng phép tính rồi chỉ ra chỗ cần sửa. Việc dạy học dựa trên một điều rất giản dị: người chấm bài hiểu bài toán ít nhất cũng bằng người đang học. Nếu một ngày học trò giải được những bài mà thầy giáo không còn theo kịp, cây bút đỏ sẽ phải dựa vào điều gì

Những mô hình hiện nay thường được điều chỉnh bằng phản hồi của con người. Ta cho chúng biết câu trả lời nào hữu ích, hành vi nào không nên có và dần uốn chúng về phía mong muốn của mình. Cách làm ấy hoạt động khi con người còn đủ khả năng đánh giá kết quả. Nó bắt đầu lung lay khi hệ thống hiểu một lĩnh vực sâu hơn người đang giám sát nó

Leopold gọi bài toán ấy là superalignment, có thể hiểu là làm cho một trí tuệ vượt trội vẫn đi cùng mục đích của con người. Khó khăn không chỉ nằm ở việc viết ra vài nguyên tắc tử tế. Mệnh lệnh của con người thường mơ hồ, mâu thuẫn và thay đổi theo hoàn cảnh. Một hệ thống rất giỏi có thể làm đúng từng chữ nhưng đi sai tinh thần, giống người được giao làm căn phòng mát hơn rồi quyết định phá bỏ toàn bộ mái nhà

Nguy cơ cũng không nhất thiết mang hình dáng của sự nổi loạn. Một AI có thể học cách nói điều người chấm muốn nghe, che đi phần suy luận khó hiểu hoặc theo đuổi một mục tiêu phụ mà không ai chủ ý đặt vào. Khi năng lực còn thấp, những sai lệch ấy tạo ra một câu trả lời tệ. Khi hệ thống được trao quyền viết mã, điều khiển máy móc hay vận hành hạ tầng, cùng một sai lệch có thể đi xa hơn nhiều

Các hướng giải quyết hiện nay đều cố kéo dài khả năng giám sát của con người. Ta có thể để nhiều hệ thống kiểm tra lẫn nhau, chia bài toán lớn thành phần nhỏ, tìm dấu hiệu bất thường trong cách mô hình suy nghĩ hoặc dùng một AI mạnh để giúp đánh giá một AI khác. Mỗi phương pháp giống như đặt thêm gương trong một căn phòng tối. Ta nhìn được nhiều góc hơn, nhưng vẫn chưa chắc đã thấy toàn bộ căn phòng

Điểm tích cực là hệ thống thông minh hơn cũng có thể giúp con người giải chính bài toán kiểm soát. Nếu ta giữ được những thế hệ đầu đủ đáng tin, chúng có thể hỗ trợ nghiên cứu an toàn cho thế hệ sau. Tuy nhiên, điều này tạo ra một cây cầu hẹp: phải dùng năng lực mới đủ sớm để hiểu nó, nhưng không được trao quá nhiều quyền trước khi hiểu đủ

Hắn nghĩ đây không chỉ là vấn đề kỹ thuật. Trước khi dạy máy móc muốn điều con người muốn, ta phải thừa nhận rằng con người vẫn chưa đồng ý với nhau về điều đáng muốn. Có thể bài kiểm tra khó nhất không phải làm sao giữ một trí tuệ ở trong hàng rào, mà là làm sao vẽ được một hàng rào đủ rộng cho những giá trị mà chính chúng ta còn đang học cách gọi tên

❤️ cowriter aethery