Facebook cho biết, công ty sẽ sớm mở mã nguồn (open-source) hai thuật toán dùng để xác định và phát hiện các hình ảnh khai thác tình dục trẻ em, hình ảnh khủng bố và bạo lực để mọi người có thể sử dụng và phát triển nhận diện thuật toán này tốt hơn nữa.
PDQ và TMK+PDQF, hai công nghệ lưu trữ các tập tin dưới dạng dữ liệu kĩ thuật số (digital hashes) và có thể so sánh chúng với các ví dụ về nội dung nguy hại . Hai công nghệ này đã được tung ra trên GitHub như là mã nguồn mở để mọi người có thể sử dụng và cải thiện nó. Facebook cho biết họ hy vọng rằng các công ty công nghệ khác, các tổ chức phi lợi nhuận và các nhà phát triển cá nhân sẽ sử dụng công nghệ này để xác định nội dung có hại hơn và thêm nó vào cơ sở dữ liệu được chia sẻ. Điều đó giúp các nền tảng xóa nội dung nhanh hơn khi mọi người cố gắng tải lên các tập tin hình ảnh và video nội dung xấu này.
Facebook còn cho biết nếu cá nhân hay tổ chức nào đã có sẵn thuật toán bảo vệ riêng họ, họ có thể sử dụng thêm hai công nghệ này để tạo thêm một lớp bảo vệ khác hoặc giúp cải tiến hệ thống của họ hơn. Trong những năm gần đây, các hình ảnh bạo lực và nội dung xấu ngày càng nhiều, đa dạng và khó phát hiện nhanh hơn. Sau vụ nổ súng tại New Zeland, Facebook không thể nhanh chóng gõ xuống video được đăng tải từ tên sát nhân và các video chia sẻ từ cộng đồng.
Ngoài khủng bố, chỉ trong một năm thì sự gia tăng mạnh lên đến 541% số lượng video lạm dụng tình dục trẻ em, ông John Clark, chủ tịch và CEO của Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC), trong một bài viết trên blog cho biết. Ông Clark cũng cho biết với sự hào phóng chia sẻ mã nguồn lần này, mọi người trong các công ty công nghệ hoặc mỗi cá nhân đều có thể góp phần đẩy lùi các tệ nạn và làm sạch Facebook hơn.
Ngoài động thái chia sẻ mã nguồn, Facebook còn hợp tác với Đại học Maryland, Đại học Cornell, Viện Công nghệ Massachusetts và Đại học California, Berkeley. Các trường đại học, viện công nghệ và Facebook đang điều tra các cách để ngăn chặn mọi người thực hiện các thay đổi tinh vi đối với các ảnh và video bị cấm bởi hệ thống và lách luật.
