Tháng 07, 2018
Thứ ba
Thứ Năm, ngày 05/07/2018 13:24 PM (GMT+7)

'Lỗ hổng' của AI: Khẩu súng thành rùa và trái cam thành máy bay trực thăng

Các nhà khoa học vừa phát hiện 'bọn' AI ẩn chứa một lỗ hổng thực sự. Điều này thực sự đáng báo động bởi việc áp dụng trí thông minh nhân tạo trong máy móc ngày càng trở nên phổ biến.

Các robot hoặc thiết bị được thiết kế hệ thống trí thông minh nhân tạo (Artificial Intelligence - AI) chính là những thuật toán tuyệt vời nhất của thế giới loài người. Đó là những cỗ máy vượt xa khả năng nhận dạng hình ảnh của con người. Với những mạng lưới tế bào thần kinh vi tế, chỉ trong chớp mắt, chúng có thể xác định bất kỳ đối tượng nào, từ động vật, khuôn mặt người cho đến các bảng thông báo...

'Lỗ hổng' của AI: Khẩu súng thành rùa và trái cam thành máy bay trực thăng - 1

Thế nhưng mới đây, các nhà khoa học đã phát hiện trong thành công này có ẩn chứa một lỗ hổng thực sự. Một lỗ hổng đáng kinh ngạc mà cho đến nay không ai nhìn thấy được. Và nếu không được các báo chí chính thống công bố, "bọn" AI sẽ vẫn còn là bản "anh hùng ca" trong tâm trí của toàn bộ đội ngũ các nhà nghiên cứu trong khoảng thời gian ít nhất là hai năm nữa. Vậy, cụ thể thì lỗ hổng này là gì? Câu trả lời, chính những thuật toán tuyệt vời này là nạn nhân của một ảo giác quang học hoàn toàn sai lầm!

Trong công cuộc nghiên cứu, các nhà khoa học tại Viện công nghệ Massachusetts MIT đã chụp ảnh kỹ thuật số một đối tượng rồi sau đó đột ngột thay đổi giá trị dung lượng pixel của ảnh. Vậy là thuật toán đột nhiên bắt đầu thấy mọi thứ thành khác đi, trong khi mắt người vẫn thấy không có gì thay đổi.

Với hình ảnh tinh tế rõ nét của một con gấu trúc, robot lại cho rằng mình đã thấy một con khỉ, với mức độ tin cậy lớn hơn 99 %. Và kế tiếp là khi cho xem hình ảnh một trái cam, 99 % lại cho rằng mình đã thấy một chiếc máy bay trực thăng, 95 % lại thấy là căn nhà, 90 % thấy là xe hơi, 83 % thấy là con chó lông xoắn, 60 % thấy là đôi giày, và 35 % thấy là khẩu súng!

Với các thí nghiệm xác định tiếp theo sau đó, robot đã nhận dạng con rùa thành khẩu súng tiểu liên, người trượt tuyết thành con chó, con mèo thành chiếc xe buýt, và George Clooney thành Dustin Hoffman...

Trong khi MIT đang vất vả với những lỗ hổng này thì phía Google cũng không khá hơn. Các nhà khoa học của Google đã sử dụng những hình ảnh ngẫu nhiên cũng có, sắp xếp theo hệ thống cũng có, dung lượng pixel cũng ngẫu nhiên, nhằm mục đích tìm hiểu xem mạng thần kinh bên trong các AI làm việc như thế nào, và chúng "suy nghĩ" ra sao.

Để thực hiện điều này, Google đã thiết lập một hệ thống gồm mười lớp, mỗi lớp chứa hàng triệu tế bào thần kinh nhân tạo, tương đồng với máy tính, cho học nhận dạng hình ảnh, xong đưa hàng triệu hình ảnh vào cho nhận dạng và phân loại theo tính chất. Kết quả cho ra toàn là ảo giác: đường chân trời thành ngôi chùa, cây cối thành nhà thờ, chiếc lá thành con mạt gà... đến nỗi các nhà nghiên cứu đã phải ví von một cách vui vẻ rằng các AI có vẻ như muốn trở thành nhà ảo thuật biến hóa ảo diệu!

Một thử nghiệm khác cũng được thực hiện với trái bóng chày 3D được thiết kế giống một tách cà phê espresso, thỉnh thoảng AI vẫn cho kết quả là trái bóng chày, nhưng đến 90 % lại cho là tách cà phê espresso!

Các nhà nghiên cứu đã chia sẻ rằng: "Công trình nghiên cứu của chúng tôi cho thấy tại sao những hình ảnh đối nghịch đang ngày càng trở thành một vấn đề nghiêm trọng đối với thế giới thực tại. Bởi việc áp dụng trí thông minh nhân tạo trong máy móc ngày càng trở nên phổ biến nên việc để xảy ra những sai sót như thế này là điều vô cùng đáng báo động".

Hiện nay các nhà khoa học đang xem xét tính khả thi của hệ thống giám sát và theo dõi phát hiện vũ khí nguy hiểm ngay từ những hình ảnh máy quay camera an ninh. Việc hệ thống nhầm lẫn một chú rùa thành khẩu súng sẽ tạo nên một cuộc báo động giả có thể vô hại, nhưng đổi lại nếu một khẩu súng bị hiểu lầm là một con rùa thì hậu quả sẽ vô cùng lớn.

Theo Andrew Ilyas, chuyên gia trí thông minh nhân tạo tại MIT là cho đến nay, vẫn chưa thể giải thích được hiện tượng ảo giác này, các nhà khoa học máy tính vẫn còn đang vô cùng vất vả để hiểu những gì đang xảy ra trong vùng không gian này của thuật toán.

Bùi Kim Sơn (Theo AI.Google)

Tin đọc nhiều

Đeo kính có thể khiến bạn trở nên thông minh hơn, thật đấy! Những người đeo kính thì nhìn thông minh hơn những người...
Bệnh viện “bỏ túi”: Chăm sóc sức khỏe chỉ bằng một cái chạm tay! Qua nhiều năm nghiên cứu và thử nghiệm, OneHealth đã cho ra...
Tình yêu thay đổi cơ thể và tâm lý của bạn theo hướng tốt hay xấu? Bạn đã bao giờ nhìn người mình thầm thương trộm nhớ và cảm...
Mùa hè không nóng với cửa sổ thông minh, đã mát lại còn tạo ra điện Các kỹ sư vật liệu ở Trung Quốc vừa phát minh ra chất phủ...