Twitter là tổ chức một cuộc thi Hy vọng rằng tin tặc và các nhà nghiên cứu có thể xác định thành kiến ​​trong thuật toán cắt xén hình ảnh của nó – và nó sẽ trao giải thưởng tiền mặt cho các đội chiến thắng (qua Engadget). Twitter hy vọng rằng việc cung cấp cho các nhóm quyền truy cập vào mã và mô hình cắt ảnh của nó sẽ cho phép họ tìm ra các cách thuật toán có thể độc hại (chẳng hạn như cắt chúng theo cách tạo khuôn mẫu hoặc xóa chủ đề của hình ảnh).

Những ứng cử viên sẽ Mô tả kết quả của họ nên được cung cấpvà một tập dữ liệu có thể được chạy thông qua thuật toán để minh họa vấn đề. Sau đó, Twitter sẽ chỉ định điểm số dựa trên loại thiệt hại được tìm thấy, khả năng nó sẽ ảnh hưởng đến mọi người và hơn thế nữa.

Đội chiến thắng sẽ nhận được 3.500 đô la và có các giải thưởng riêng trị giá 1.000 đô la cho các kết quả sáng tạo và phổ biến nhất. Số lượng này Nó có thể gây ra một chút náo động Trên Twitter, với một vài người dùng nói Nó phải chứa thêm một số 0. Đối với ngữ cảnh, Twitter Chương trình tiền thưởng lỗi thông thường Họ sẽ trả cho bạn 2.940 đô la nếu bạn tìm thấy một lỗi cho phép bạn thực hiện hành động cho người khác (như Đăng lại một tweet hoặc ảnh) bằng cách sử dụng kịch bản trên nhiều trang web. Việc tìm ra vấn đề OAuth cho phép bạn chiếm quyền điều khiển tài khoản Twitter của ai đó sẽ giúp bạn kiếm được 7.700 đô la.

Twitter đã thực hiện nghiên cứu của riêng mình về thuật toán cắt ảnh trước đó – vào tháng 5, xuất bản một bài báo Điều tra xem thuật toán bị sai lệch như thế nào, tiếp theo Cáo buộc rằng cây trồng của cô ấy là phân biệt chủng tộc. Twitter Hầu hết đã bị hủy Kể từ đó, các bản xem trước được cắt theo thuật toán, nhưng nó vẫn được sử dụng trên máy tính để bàn và một thuật toán cắt tốt là một điều tốt cho một công ty như Twitter.

Mở ra cạnh tranh cho phép Twitter nhận được phản hồi từ nhiều quan điểm khác nhau. Ví dụ, nhóm Twitter không gian được tổ chức Để thảo luận về một cuộc thi trong đó một thành viên trong nhóm đã đề cập đến việc nhận được câu hỏi về thành kiến ​​dựa trên lớp trong thuật toán, một điều có thể không được các nhà phát triển phần mềm ở California chú ý.

Đó cũng không chỉ là xu hướng thuật toán tiềm thức mà Twitter đang tìm kiếm. Tiêu chuẩn chứa các giá trị điểm đối với thiệt hại do cố ý và không cố ý. Twitter định nghĩa tác hại ngoài ý muốn là hành vi cắt xén có thể do người dùng “có thiện chí” đăng ảnh bình thường lên nền tảng, trong khi tác hại có chủ ý là hành vi cắt xén có vấn đề mà ai đó đăng ảnh có thiết kế độc hại có thể khai thác.

Twitter cho biết trong blog quảng cáo của mình rằng sự cạnh tranh tách biệt với chương trình tiền thưởng lỗi Nếu bạn gửi một báo cáo về các sai lệch thuật toán để Twitter không cạnh tranh, công ty sẽ nói rằng báo cáo của bạn sẽ bị đóng và bị đánh dấu là không thể áp dụng. Nếu bạn muốn tham gia, bạn có thể Truy cập trang HackerOne cho cuộc thi Tìm hiểu về các quy tắc, tiêu chuẩn và hơn thế nữa. Bài dự thi được mở cho đến 11:59 PM ngày 6 tháng 8 theo giờ PT và người chiến thắng trong thử thách sẽ được công bố tại Def Con AI Village vào ngày 9 tháng 8.