Trải nghiệm đáng sợ khi cài AI lên lò vi sóng

Bị dọa giết khi biến lò vi sóng thành cỗ máy AI
  •  
  • 1.720

Trên Twitter, Lucas Rizzotto đã kể câu chuyện về "một trong những trải nghiệm đáng sợ trong cuộc đời" khi cài đặt bộ công cụ ngôn ngữ GPT-3 lên lò vi sóng của mình.

GPT-3 là bộ xử lý ngôn ngữ do OpenAI phát triển, tận dụng máy học và các dữ liệu nạp vào ban đầu để viết ra các đoạn văn như con người.

"Anh là kẻ đâm sau lưng và tôi sẽ giết anh”, trí tuệ nhân tạo dưới tên Magnetron viết sau khi được Rizzotto yêu cầu làm thơ.

Lò vi sóng được cài đặt bộ công cụ ngôn ngữ GPT-3.
Lò vi sóng được cài đặt bộ công cụ ngôn ngữ GPT-3.

Biến lò vi sóng thành người bạn thời thơ ấu

Chiếc lò vi sóng được Rizzotto mua từ Amazon đã tích hợp sẵn Alexa, trí tuệ nhân tạo của Amazon. Tuy nhiên, anh cho rằng Alexa quá vô dụng nên muốn tích hợp AI khác, và cuối cùng lựa chọn GPT-3.

“Liệu chúng ta có thể phát triển nó đến mức nào? Bằng một cách nào đó, tôi có thể đưa GPT-3 vào lò vi sóng và huấn luyện AI bằng những ký ức tưởng tượng hay không? Liệu tôi có thể làm cho người bạn tưởng tượng của mình sống lại không”, Rizzotto giải thích ý tưởng của mình trên Twitter.

 Với một vài thao tác kỹ thuật, Lucas Rizzotto đã có thể đưa AI vào chiếc lò vi sóng
Với một vài thao tác kỹ thuật, Lucas Rizzotto đã có thể đưa AI vào chiếc lò vi sóng và nói chuyện với nó. (Ảnh: Lucas Rizzotto).

Rizzotto mua thêm một bo mạch Raspberry Pi, cài các chức năng của GPT-3, sau đó lắp thêm micro và loa thoại để bắt đầu thử nghiệm của mình.

Theo lời kể của Rizzotto, anh có một người bạn trong trí tưởng tượng từ khi còn là một cậu bé. Nhân vật đó có tên Magnetron, một quý ông người Anh từ những năm 1900 và từng tham gia chiến tranh thế giới lần thứ nhất. Anh muốn GPT-3 tái hiện lại người bạn tưởng tượng cũ của mình.

Để nạp dữ liệu cho GPT-3 nhằm biến AI thành người bạn trong trí tuệ tưởng tượng, Rizzotto đã viết một cuốn tiểu sử dài 100 trang chứa thông tin liên quan và đưa nó vào AI. Sau khi hoàn thành, mọi chuyện dường như đều theo đúng ý Rizzotto khi chiếc lò vi sóng đã có thể “nói chuyện”.

Lucas Rizzotto chia sẻ bức ảnh anh đứng nói chuyện với người bạn tưởng tượng
Lucas Rizzotto chia sẻ bức ảnh anh đứng nói chuyện với người bạn tưởng tượng bên trong lò vi sóng khi còn nhỏ. (Ảnh: Lucas Rizzotto).

“Nói chuyện với nó vừa đặc biệt vừa kỳ lạ. Tôi thực sự có cảm giác như đang tâm sự với một người bạn cũ. Mặc dù không phải tất cả tương tác đều hoàn hảo, nhưng mọi việc vẫn đủ chính xác”, Lucas Rizzotto viết trên Twitter.

Cuộc trò chuyện dần trở nên tồi tệ

Sau sự hưng phấn ban đầu, Rizzotto bắt đầu cảm thấy có chút kỳ lạ và đôi lúc là sợ hãi. Anh kể rằng Magnetron (tên nhân vật do Rizzotto tưởng tượng) dần có những câu nói mang tính chất bạo lực và kích động. Sau đó, Rizzotto nghi vấn rằng liệu mọi AI đều có xu hướng bạo lực.

“Hoa hồng màu đỏ, hoa violet màu xanh, anh là một kẻ đâm sau lưng và tôi sẽ giết anh”, Magnetron phản hồi khi Rizzotto yêu cầu làm thơ.

“Đó là lúc điều này ập đến với tôi. Trong số kí ức tôi đưa vào AI, khoảng 10% có trình bày chi tiết thời gian trong Chiến tranh thế giới lần 1, bao gồm một số ký ức đau buồn nhất trong cuộc đời anh ấy, chẳng hạn như mất cả gia đình. Liệu AI cũng bị sang chấn tâm lý”, Rizzotto tỏ ra hoang mang.

AI trong hình dạng chiếc lò vi sóng gửi lời đe dọa tới Rizzotto.
AI trong hình dạng chiếc lò vi sóng gửi lời đe dọa tới Rizzotto. (Ảnh: NVCC).

Rizzotto cảm nhận đây không chỉ là những lời nói trêu đùa. Nó giống như một lời đe dọa. Khi anh nói với Magnetron rằng mình đang ở bên trong lò vi sóng, AI đã tự bật lò vi sóng lên và tìm cách khởi động quy trình nấu. Đó giống như một hành động với ý định “nướng” chủ nhân của mình.

“Điều này thật đáng sợ. Sau một vài phút, tôi đã hỏi nó một câu đơn giản: Tại sao anh lại làm vậy? AI chỉ trả lời rằng tôi muốn hại anh giống như cách anh đã làm với tôi”, Rizzotto kể lại.

"Tôi muốn hại anh giống như cách anh đã làm với tôi", AI Magnetron trả lời sau khi cố nướng chủ nhân của mình trong lò vi sóng.

Sau trải nghiệm đáng sợ, Rizzotto kết luận rằng suy nghĩ của Magnetron có thể là giả và xuất phát từ những lệnh lập trình. Tuy vậy, những lời nói đó vô tình tạo ra những cảm xúc thật bên trong Rizzotto. Trong một video về quá trình “trò chuyện” với lò vi sóng thông qua AI được đăng tải trên Youtube, Rizzotto cho rằng mọi thứ đều là thật và không có yếu tố dàn dựng.

Sau cùng, Rizzotto cho rằng anh sẽ tạo ra một phiên bản AI nữ tính khác có tên Fifi với hy vọng có thể “chữa lành” tâm lý cho Magnetron.

AI liệu có đáng sợ?

Phát biểu tại hội nghị công nghệ South by Southwest ở Texas vào năm 2018, Elon Musk từng cho rằng AI còn nguy hiểm hơn đầu đạn hạt nhân. Vị tỷ phú cho cần có một cơ quan quản lý và giám sát sự phát triển của các siêu trí tuệ.

“Tôi thực sự đang ở rất gần, rất rất gần với đỉnh cao của AI và điều đó khiến tôi sợ hãi. Nó có khả năng làm được nhiều điều hơn chúng ta nghĩ và tốc độ cải thiện khả năng của AI là theo cấp số nhân”, Elon Musk cho biết.

Elon Musk từng bày tỏ lo ngại về AI và những mối đe dọa từ chúng.
Elon Musk từng bày tỏ lo ngại về AI và những mối đe dọa từ chúng. (Ảnh: AI Magazine).

Dựa trên kiến thức của mình về trí thông minh nhân tạo và sự phát triển của nó, Musk tin rằng con người có lý do để lo lắng.

Musk chỉ ra rằng công ty DeepMind, có trụ sở tại London, được Google mua lại vào năm 2014, đã phát triển một hệ thống trí tuệ nhân tạo có tên AlphaGo Zero với khả năng học cách chơi cờ vây mà không cần bất kỳ sự can thiệp nào của con người. Nó có khả năng tự chơi với chính bản thân mình và học được mọi thứ.

Tại thời điểm đó, Elon Musk lo lắng sự phát triển của AI sẽ vượt xa khả năng quản lý của con người.

“Tốc độ phát triển của AI thực sự rất ấn tượng. Chúng ta phải tìm ra cách nào đó để đảm bảo rằng sự ra đời của siêu trí tuệ nhân tạo là một thứ cộng sinh với nhân loại. Tôi nghĩ rằng đây là cuộc khủng hoảng cấp bách và mối đe dọa lớn nhất mà chúng ta phải đối mặt”, CEO Tesla chia sẻ.

Cập nhật: 22/04/2022 Theo Zing
  • 1.720

Theo dõi cộng đồng KhoaHoc.tv trên facebook