3 điều luật cấm kỵ đối với người máy: Loài người là bất khả xâm phạm!

  • 3.183

Người máy ngày càng xuất hiện nhiều trong cuộc sống của chúng ta. Thậm chí một người máy đã được cấp quyền công dân. Câu hỏi về kiểm soát hành vi của người máy ngày càng nóng.

Khái niệm người máy (robota) xuất hiện đầu tiên năm 1924 bởi tác giả người cộng hòa Séc, ông Karel Capek. Robota theo tiếng Séc là lao động cưỡng bức, nô lệ. Về sau, từ robota được gọi tắt là robot và sử dụng rộng rãi.

Năm 1942, một nhà văn khoa học viễn tưởng người Nga, ông Isaac Asimov đã đề xuất ba điều luật áp dụng cho người máy. Cụ thể như sau:

  1. Người máy không được làm hại con người, hoặc không hành động khiến cho con người bị tổn hại.
  2. Người máy phải tuân theo lệnh của con người, trừ khi lệnh đó đi trái điều luật thứ nhất.
  3. Người máy phải bảo vệ sự tồn tại của nó miễn sao sự bảo vệ này không vi phạm điều luật đầu tiên và thứ hai.

Sau này, ông bổ sung thêm một điều luật nữa: người máy không được làm hại nhân loại, hoặc không hành động khiến cho nhân loại bị tổn hại.

Tác giả Isaac Asimov.
Tác giả Isaac Asimov. (Ảnh: famousauthor).

Kể từ đó, những điều luật này từ truyện khoa học viễn tưởng trở thành luật chính thống trong giới nghiên cứu. Thế nhưng khái niệm robot xưa để ám chỉ máy móc có hình dáng con người, trong hoàn cảnh hiện nay robot mang nhiều hình dáng, chức năng và mức độ thông minh khác nhau.

Câu hỏi về việc áp dụng những điều luật này đang là vấn đề gây tranh cãi. Đối với những robot đơn giản cấp thấp, liệu có cần áp dụng luật Asimov?

Nỗi lo robot quay lại tấn công con người.
Nỗi lo robot quay lại tấn công con người. (Ảnh: getty).

Ngược lại, với những robot mang trí tuệ nhân tạo (AI) vượt trội, liệu chúng đã vượt qua giới hạn luật? Điển hình khi robot Sophia đe dọa tiêu diệt loài người, hay robot Tay (của Microsoft) tự học và trở thành cuồng phát xít chỉ sau 24 giờ.

Cập nhật: 01/11/2017 Theo Trí Thức Trẻ
  • 3.183

Theo dõi cộng đồng KhoaHoc.tv trên facebook