Roblox, Discord, OpenAI ve Google'ın çocuk güvenliğine odaklanan ortak girişimi: Roost

Teknolojinin günden güne gelişmesi ile birlikte güvenlik açıklarının da bulunduğunu kolaylıkla söyleyebiliriz. Bunların başında da elbette çocuk güvenliği geliyor. Dünya çapında çocuk güvenliği açısından üzücü olayların yaşanması, önde gelen teknoloji şirketlerinin odağı haline geldi. Üretken yapay zeka alanındaki gelişmelerin, online çocuk güvenliği önlemleri konusunda yenilikçi çözümler gerektirdiği bir dönemde hayata geçirilen Robust Open Online Safety Tools (ROOST) Paris'te gerçekleşen Yapay Zeka Eylem Zirvesi’nde tanıtıldı.

Girişimin kurucuları

Columbia Üniversitesi Uluslararası ve Kamu İlişkileri Okulu'ndaki Küresel Politika Enstitüsü'nde geliştirilen ROOST’un kurucu ortakları arasında önemli isim ve şirketler bulunuyor. Bu isimler arasında, Google'ın eski CEO'su Eric Schmidt, Discord, OpenAI, Google, Roblox, John S. & James L. Knight Foundation, AI Collaborative, Patrick J. McGovern Foundation ve Project Liberty Institute yer alıyor. Girişim, yapay zeka, hayırseverlik, akademi, açık kaynak, çocuk güvenliği ve şiddetli aşırılıkla mücadele alanlarından geniş bir ortak ağı tarafından destekleniyor.

Girişimin amacı

Roblox, Discord, OpenAI ve Google tarafından başlatılan ROOST’un amacı, çocuk cinsel istismarı materyallerini (CSAM) tespit etmek, incelemek ve raporlamak için erişilebilir ve ücretsiz, açık kaynaklı yapay zeka araçları sağlamak. Aynı zamanda girişim, mevcut araçları bir araya getirerek daha erişilebilir ve kapsayıcı hale getirmeyi hedefliyor.

Girişim, ilk dört yıllık operasyonları için 27 milyon dolardan fazla fon toplayarak, önde gelen yapay zeka geliştiricileri ve çocuk güvenliği uzmanlarıyla da iş birliği yapıyor. Meta, Google ve Microsoft gibi şirketler de projeye katkıda bulunuyor. ROOST, online topluluğa temel altyapı ve kaynaklar sunarak iş birliğini teşvik etmeyi ve daha güvenli bir internet oluşturmayı amaçlıyor.

ROOST'un kurucu ortağı ve Google'ın eski CEO'su Eric Schmidt'e göre, bu girişim kısmen yapay zekadaki gelişmelerin online ortamlarda yaptığı değişikliklerden kaynaklanıyor ve online çocuk güvenliğinde inovasyonu hızlandırmaya yönelik kritik bir ihtiyacı karşılamayı amaçlıyor.

Schmidt açıklamalarına şu şekilde devam ediyor:

“Çocukların korunmasına odaklanan bir platformla başlayan ROOST'un iş birliğine dayalı, açık kaynaklı yaklaşımı, herkes için daha güvenli bir internet yaratma hedefiyle inovasyonu teşvik edecek ve temel altyapıyı daha şeffaf, erişilebilir ve kapsayıcı hale getirecektir”

Girişimin gelecek planları

Bloomberg Businessweek tarafından yapılan bir araştırma, 2018'den bu yana onlarca kişinin Roblox'ta tanıştığı çocukları istismar ettikleri veya kaçırdıkları için ABD emniyet güçleri tarafından tutuklandığını ortaya koydu. 2024 yılında Türkiye’de erişim engeli getirilen Roblox başta olmak üzere, birçok online platformda aynı sorunlar yaşanıyor. Bu noktada geçen yıl ülkemizde Discord'a  da erişim engeli getirildiğini hatırlatalım 

Roblox'un mühendislik, güven ve güvenlikten sorumlu başkan yardımcısı Naren Koneru, Fast Company'ye verdiği röportajda, ROOST'un şirketlerin API çağrıları yoluyla entegre edebilecekleri yapay zeka moderasyon sistemlerine ev sahipliği yapabileceğini belirtti.

Discord'un Hukuktan Sorumlu Başkanı Clint Smith ROOST ile ilgili yaptığı açıklamada ise, “Discord'da güvenliğin ortak bir fayda olduğuna inanıyoruz” dedi. “Sadece Discord'u değil, tüm interneti özellikle gençler için daha iyi ve daha güvenli bir yer haline getirmeye kararlıyız.” diyerek sözlerine devam etti.

ROOST elbette tüm bu sorunları ortadan kaldırmayacak, ancak kendisini Roblox'un konumunda bulan herhangi bir kuruluş veya şirket için bunlarla başa çıkmayı kolaylaştıracak gibi gözüküyor.