ImageNet Roulette phơi bày mặt tối của AI

Chia sẻ
Nhiều ứng dụng liên quan đến AI giúp tạo ra tác động tích cực lên cuộc sống chúng ta. Nhưng ImageNet Roulette không thuộc dạng này, thay vào đó, hệ thống phơi bày mặt tối của AI.

ImageNet Roulette phơi bày mặt tối của AI  ảnh 1
Mô hình này hiện đang được trưng bày trong triển lãm Đào tạo con người của Trevor Paglen và Kate Crawford tại Bảo tàng Fondazione Prada ở Milan.

Theo mô tả của người tạo: “ImageNet Roulette ra đời với mục đích giúp chúng tôi nhìn thấy những cách mà con người được xếp vào hệ thống máy học. Mô hình sử dụng một mạng lưới thần kinh được đào tạo trên các danh mục “Con người” từ bộ dữ liệu ImageNet với hơn 2.500 thẻ dùng để phân loại hình ảnh của mọi người.”

Hệ thống sử dụng framework mã nguồn mở có tên Caffe deep learning được đào tạo trên những hình ảnh và thẻ thuộc nhóm “con người”. ImageNet Roulette trước tiên phát hiện các khuôn mặt trong những hình ảnh nhập vào. Nếu nhận diện ra, hình ảnh sẽ được gửi đến mô hình Caffe để phân loại. Còn không, hình gốc được trả lại vào thẻ ở góc bên trái.

Có rất nhiều doanh mục sau khi phân loại gây khó chịu như phân biệt chủng tộc và đôi khi không chính xác. Người tạo ra cho biết: “Chúng tôi muốn làm sáng tỏ những gì xảy ra khi các hệ thống kỹ thuật được đào tạo với những dữ liệu có vấn đề. Phân loại AI ít được hiển thị cho người dùng. ImageNet Roulette cung cấp một cái nhìn thoáng qua về quá trình đó – và để chỉ ra những cách mọi thứ có thể đi sai.”

Như hình, mạng lưới thần kinh mô tả hình ảnh mẫu của Leonardo Dicprio với những cụm từ như “đạo đức giả”, “người giả dối”, “người giả bộ”,…Tuy nhiên, điều xấu nhất là phần mô tả mà hệ thống cung cấp: “một người tự tin thể hiện ý kiến, và anh ta không giữ, che giấu cảm xúc hoặc động cơ thực sự của mình.”

ImageNet Roulette phơi bày mặt tối của AI  ảnh 2

Trên thực tế, ImageNet Roulette là ví dụ về những gì một mô hình AI không nên có và mức độ sẽ xấu hơn nếu sử dụng sai bộ dữ liệu để đào tạo.

Trần Kiên

Tin liên quan

Chia sẻ

Bạn đọc bình luận

Vui lòng nhập tiếng Việt có dấu
Nhập mã bảo mật (*)    Refresh

Cùng chuyên mục