Cần nghiên cứu vấn đề AI nhận diện hình ảnh bị lừa bởi thay đổi một điểm ảnh duy nhất

Đăng lúc: Thứ tư - 08/11/2017 10:18 - Người đăng bài viết: SuperG
AI nhận diện hình ảnh bị lừa bởi thay đổi một điểm ảnh duy nhất

AI nhận diện hình ảnh bị lừa bởi thay đổi một điểm ảnh duy nhất

Máy tính có thể bị lừa vào suy nghĩ một hình ảnh của một chiếc taxi thay vì là một con chó chỉ bằng cách thay đổi một điểm ảnh trên ảnh gốc, các nhà khoa học AI đang đề nghị nghiên cứu về vấn đề này.

Những hạn chế xuất phát từ công việc của các nhà nghiên cứu Nhật Bản về cách để đánh lừa các hệ thống nhận dạng hình ảnh dựa trên AI.

Nhiều nhà khoa học khác đang tạo ra các hình ảnh ví dụ "đối nghịch" để lộ tính yếu của một số loại phần mềm nhận dạng.

Không có cách nào nhanh chóng và dễ dàng để sửa chữa hệ thống nhận diện hình ảnh để ngăn chặn chúng bị lừa theo cách này, hãy cảnh báo các chuyên gia.

Máy bay ném bom hoặc bulldog?

Trong nghiên cứu của họ, Su Jiawei và các đồng nghiệp tại Đại học Kyushu đã thực hiện những thay đổi rất nhỏ đối với rất nhiều hình ảnh sau đó được phân tích bởi các hệ thống nhận dạng hình ảnh dựa trên AI được sử dụng rộng rãi.

Tất cả các hệ thống mà chúng kiểm tra đều dựa trên một loại AI được gọi là mạng thần kinh sâu. Thông thường, những hệ thống này học được bằng cách huấn luyện rất nhiều ví dụ khác nhau để cho họ cảm giác như thế nào đối tượng, như chó và xe taxi, khác nhau.

Các nhà nghiên cứu nhận thấy rằng thay đổi một điểm ảnh trong khoảng 74% các hình ảnh thử nghiệm đã làm cho mạng lưới thần kinh sai nhãn những gì họ nhìn thấy. Một số lỗi gần như đã bỏ sót, chẳng hạn như một con mèo bị nhầm lẫn với một con chó, nhưng một số khác, bao gồm gắn nhãn một máy bay ném bom tàng hình một con chó, đã được mở rộng rộng hơn của nhãn hiệu.

Các nhà nghiên cứu Nhật Bản đã phát triển một loạt các cuộc tấn công dựa trên điểm ảnh, đã phát hiện ra tất cả các hệ thống nhận diện hình ảnh hiện đại mà họ đã thử nghiệm.

Ông Su, từ Kyushu, người đứng đầu cuộc nghiên cứu cho biết: "Theo chúng tôi, không có bộ dữ liệu hoặc mạng lưới nào mạnh mẽ hơn các mạng khác".

 

Các tế bào thần kinhTHƯ VIỆNhình ảnh vềKHOA HỌCbản quyềnHÌNH ẢNH
Chú thích hình ảnh

Các mạng nơron hoạt động bằng cách liên kết giữa các nút lớn

Vấn đề sâu sắc

Ông Anish Athalye thuộc Viện Công nghệ Massachusetts (MIT) cũng đang nghiên cứu vấn đề này. Nhiều nhóm nghiên cứu trên khắp thế giới đang phát triển "những ví dụ thù địch" để phơi bày những điểm yếu của các hệ thống này.

Một ví dụ được thực hiện bởi ông Athalye và các đồng nghiệp của ông là một con rùa in 3D mà một hệ thống phân loại hình ảnh khăng khăng đòi dán nhãn một khẩu súng trường.

Ông nói với BBC: "Ngày càng có nhiều hệ thống thực tế đang bắt đầu kết hợp các mạng thần kinh và mối quan tâm lớn là các hệ thống này có thể lật đổ hay tấn công bằng cách sử dụng các ví dụ thù địch.

Trong khi không có ví dụ về các cuộc tấn công nguy hiểm trong thực tế, ông nói, thực tế là những hệ thống được cho là thông minh này có thể bị đánh lừa dễ dàng như vậy là đáng lo ngại. Những người khổng lồ web bao gồm Facebook, Amazon và Google đều biết cách điều tra những cách để chống lại việc khai thác đối phương.

Ông nói: "Đây cũng không phải là một 'trường hợp góc kỳ lạ'. "Chúng tôi đã cho thấy trong công việc của chúng tôi rằng bạn có thể có một đối tượng duy nhất đánh lừa một mạng lưới các quan điểm, ngay cả trong thế giới vật lý.

 

Cảnh nông thôn
Chú thích

hình ảnh Hệ thống nhận dạng hình ảnh đã được sử dụng để phân loại cảnh đẹp thiên nhiên

Ông nói thêm: "Cộng đồng học máy không hiểu hết những gì đang xảy ra với những ví dụ thù địch hay lý do họ tồn tại.

Ông Su cho rằng các ví dụ về đối nghịch khai thác một vấn đề với cách mạng nơron hình thành khi họ học.

Một hệ thống học tập dựa trên mạng nơron thường liên quan đến việc tạo ra các kết nối giữa một số lượng lớn các nút thần kinh - giống như các tế bào thần kinh trong não. Phân tích bao gồm mạng lưới làm nhiều quyết định về những gì nó nhìn thấy. Mỗi quyết định nên đưa mạng gần hơn với câu trả lời đúng.

Tuy nhiên, ông nói, các hình ảnh đối lập ngồi trên "ranh giới" giữa các quyết định này có nghĩa là nó không mất nhiều để buộc mạng lưới để làm sai sự lựa chọn.

"Những người chống đối có thể khiến họ đi sang một bên kia của một ranh giới bằng cách thêm những lo ngại nhỏ và cuối cùng bị phân loại sai", ông nói.

Ông Athalye cho biết: Việc khắc phục các mạng thần kinh sâu để chúng không còn dễ bị tổn thương trước các vấn đề này có thể là một việc khó khăn.

"Đây là một vấn đề cởi mở", ông nói. "Có rất nhiều kỹ thuật được đề xuất, và hầu hết chúng đều bị hỏng."

Một trong những cách tiếp cận hứa hẹn là sử dụng các ví dụ thù địch trong quá trình huấn luyện, ông Athalye cho biết, do đó các mạng lưới được dạy để nhận ra chúng. Tuy nhiên, ông nói, thậm chí điều này không giải quyết được tất cả các vấn đề mà cuộc nghiên cứu này phơi bày.

"Có một điều gì đó lạ lùng và thú vị xảy ra ở đây, chúng tôi không biết chính xác đó là cái gì", ông nói.


Nguồn tin: bbc.com
Đánh giá bài viết
Tổng số điểm của bài viết là: 0 trong 0 đánh giá
Click để đánh giá bài viết
 

Quy trình xử lý

Hướng dẫn quý khách hàng tìm hiểu làm quen với cách sử dụng sản phẩm và dịch vụ trong lĩnh vực Robot gia dụng chúng tôi cung cấp. Đặt vấn đề: Khách hàng liên hệ qua Email hoặc Điện thoại, ghi chú nội dung liên hệ và thông tin yêu cầu sản phẩm dịch vụ sơ bộ. Xử lý thông tin: Chúng tôi sẽ trực...

Thăm dò ý kiến

Bạn có muốn sở hữu một Robot trong nhà không?

Cần một Robot để dọn dẹp

Cần một Robot trông nhà

Cần một Robot để giải trí

Bạn cần một Robot theo cách khác

Bạn đã có rồi

Bạn không cần

Liên kết