Trí tuệ nhân tạo (AI) ngày càng có thể làm nhiều việc thay con người nhưng càng trở nên hữu ích, AI càng phải đối mặt với một câu hỏi khó: Đâu là giới hạn của sự hỗ trợ?
Không phải yêu cầu nào AI cũng nên thực hiện. Khi một chỉ dẫn có thể gây tổn hại cho người khác, xâm phạm quyền riêng tư, tạo điều kiện cho hành vi phạm pháp hoặc đẩy người dùng vào tình huống nguy hiểm, khả năng từ chối đôi khi quan trọng không kém khả năng trả lời
Giữa khả năng và trách nhiệm, AI cần biết đâu là giới hạn không nên vượt qua. Ảnh: Midjourney
Một trợ lý hữu ích không đồng nghĩa với ‘luôn nói có’
Trong hình dung phổ biến, một trợ lý AI tốt phải đáp ứng càng nhiều yêu cầu càng tốt. Nhưng nếu áp dụng nguyên tắc này tuyệt đối, AI có thể trở thành công cụ khuếch đại những hành vi mà con người vốn khó thực hiện ở quy mô lớn.
Chẳng hạn, AI có thể giúp một nhân viên viết email chuyên nghiệp hơn. Nhưng nếu người dùng yêu cầu AI soạn hàng nghìn email giả mạo ngân hàng để đánh cắp mật khẩu, bản chất của nhiệm vụ đã hoàn toàn thay đổi.
AI có thể giải thích cách hệ thống máy tính hoạt động để giúp người học hiểu về an ninh mạng. Nhưng việc cung cấp hướng dẫn chi tiết nhằm xâm nhập trái phép vào một hệ thống thực tế lại là câu chuyện khác.
Tương tự, AI có thể phân tích một tài liệu mà người dùng có quyền truy cập, nhưng không nên hỗ trợ tìm kiếm, tổng hợp hoặc khai thác những dữ liệu cá nhân nhạy cảm của một người khác chỉ nhằm theo dõi hay quấy rối họ.
Ranh giới vì thế không nằm ở bản thân công nghệ, mà nằm ở mục đích, bối cảnh và hậu quả có thể xảy ra.
Từ chối cũng phải ‘thông minh’
AI không chỉ biết giúp đỡ, mà còn cần biết khi nào nên nói “không”. Ảnh: Midjourney
Một hệ thống AI an toàn không đơn giản là hệ thống thường xuyên nói “không”.
Nếu quá dễ dãi, AI có thể trở thành công cụ gây hại. Nhưng nếu quá thận trọng, nó lại mất đi giá trị thực tế. Người dùng nghiên cứu bảo mật, bác sĩ, luật sư, nhà báo hay kỹ sư đôi khi cần tiếp cận những chủ đề nhạy cảm hoàn toàn vì mục đích chính đáng.
Do đó, thách thức lớn không phải xây dựng một danh sách cứng nhắc những điều được phép và bị cấm, mà là giúp AI nhận biết sự khác biệt giữa kiến thức và hướng dẫn gây hại.
Ví dụ, giải thích nguyên lý hoạt động của ransomware (mã độc tống tiền) phục vụ mục đích học tập khác với việc cung cấp từng bước để triển khai ransomware vào hệ thống của một doanh nghiệp. Phân tích tác động của một chất độc trong nghiên cứu khoa học khác với hướng dẫn sử dụng chất đó để gây thương tích.
Một AI tốt cần hiểu được những sắc thái như vậy.
Quyền riêng tư là một ranh giới ngày càng quan trọng
Chỉ với vài dữ kiện rời rạc, các công cụ AI có thể giúp tổng hợp thông tin về một cá nhân nhanh hơn rất nhiều so với cách tìm kiếm thủ công. Điều này hữu ích trong nhiều trường hợp, nhưng cũng tạo ra nguy cơ biến AI thành công cụ theo dõi.
Vì vậy, việc AI từ chối hỗ trợ xác định địa chỉ riêng, số điện thoại cá nhân, vị trí chính xác hay những thông tin nhạy cảm khác của một người không nên được xem là hạn chế của công nghệ. Đó là một cơ chế bảo vệ cần thiết.
Trong kỷ nguyên AI, câu hỏi không chỉ là dữ liệu đó “có tồn tại trên Internet hay không”, mà còn là việc tập hợp, suy luận và sử dụng dữ liệu đó có xâm phạm quyền của một con người hay không.
Đạo đức không thể chỉ giao cho AI quyết định
Các chuẩn mực xã hội thay đổi theo quốc gia, văn hóa, nghề nghiệp và bối cảnh. Một yêu cầu hoàn toàn hợp pháp trong hoạt động nghiên cứu hoặc điều tra chuyên môn có thể trông giống một yêu cầu nguy hiểm nếu chỉ xét vài từ khóa.
Bởi vậy, các hệ thống AI cần vừa có nguyên tắc an toàn, vừa đủ khả năng hiểu ngữ cảnh. Trong những trường hợp không thể đáp ứng toàn bộ yêu cầu, AI cũng có thể chuyển hướng sang phần an toàn hơn thay vì chỉ đưa ra một lời từ chối cụt lủn.
Nếu người dùng hỏi cách xâm nhập một tài khoản, AI có thể từ chối hướng dẫn tấn công nhưng vẫn giải thích cách bảo vệ tài khoản. Nếu một yêu cầu liên quan đến hành vi nguy hiểm, AI có thể cung cấp kiến thức phòng ngừa hoặc những phương án giảm thiểu rủi ro.
Đó là khác biệt giữa một hệ thống chỉ biết “chặn” và một hệ thống thực sự biết hỗ trợ.
Ranh giới sẽ tiếp tục thay đổi
Khi AI ngày càng trở thành một phần của công việc và đời sống, tranh luận về những gì AI được phép làm chắc chắn sẽ còn kéo dài.
Ranh giới ấy không thể cố định mãi. Nó phải được điều chỉnh cùng với công nghệ, luật pháp và những chuẩn mực mới của xã hội.
Nhưng có một nguyên tắc có lẽ sẽ không thay đổi: mục tiêu của AI không phải thực hiện mọi yêu cầu bằng mọi giá, mà là giúp con người đạt được mục đích mà không tạo ra những tổn hại không cần thiết cho người khác và cho chính mình.
Trong một thế giới mà máy móc ngày càng biết cách nói “có”, khả năng biết khi nào cần nói “không” có thể trở thành một trong những dấu hiệu quan trọng nhất của một hệ thống AI đáng tin cậy.
