Metin Külünk Önemli Konuları Kaleme Aldı

"Değerli Akrabamız ve Dostlarımız.
Dijital devrim hayatımızın her alanına derinlemesine nüfuz
ederken, yapay zekâ teknolojisi ise bu dönüşümün en
kritik unsurlarından biri haline gelmiştir. İnsan-makine
etkileşimi bireysel yaşamımızdan toplumsal yapılarımıza kadar
her şeyi yeniden tanımlarken, bu teknolojik ilerlemenin muhatabı
ve en hassas kesimlerinden biri olan çocuklar üzerindeki
etkilerini anlamak, tartışmak ve doğru yönetmek zorundayız.
Bu çalışma, yapay zekâ ve çocuk ilişkisini dengeli ve bilinçli
bir bakış açısıyla ele almayı amaçlamakta, ayrıca teknolojik
gelişmelere karşı korkuya dayalı bir refleksle yaklaşmak ya da
sınırsız bir iyimserlikle sınırsız bir benimseme göstermek yerine
hem fırsatları, hem de riskleri nesnel bir şekilde irdelemeyi
hedeflemektedir. Yapay zekâ eğitimden sağlığa, eğlenceden
güvenliğe kadar pek çok alanda çocuklar için büyük faydalar
sağlayabilir; ancak gerekli düzenlemeler ve etik ilkeler
oluşturulmadığı takdirde mahremiyet, güvenlik ve bilişsel gelişim
gibi temel konularda ciddiye alınması gereken tehditler de
barındırabilir.
Tarih boyunca her yeni teknoloji, toplumsal yapıya entegrasyon
sürecinde tartışmalar ve düzenlemeler gerektirmiştir. Yapay
zekânın günlük hayatımıza bu kadar hızlı girişi ve etkin bir unsur
haline gelişi, bu tartışmaların da daha acil ve kapsamlı bir
şekilde yapılmasını zorunlu kılmaktadır. Bu kapsamda, ulusal ve
uluslararası düzeyde düzenleyici mekanizmalar oluşturulmakta,
çocukların dijital ortamda korunması için farklı stratejiler
geliştirilmektedir.
Bu rapor, yapay zekâ ve çocuk haklarının kesiştiği noktaları
mercek altına alarak hem ebeveynler, hem de politika üreticiler
için önemli bir referans kaynağı olmayı hedeflemenin yanında,
teknolojik dönüşümün şu ana kadar geçirdiği evreleri ve
gelecekte bizleri ne gibi süreçlerin beklediğini anlamaya
çalışırken, en kıymetli varlıklarımız olan çocukların bu değişime
nasıl dâhil edilmesi gerektiği konusunda bilinç oluşturmayı
amaçlamaktadır.
Bu kapsamda, elinizdeki çalışmaya katkı sağlayan herkese
teşekkür eder, okuyucularımızın bu konuyu daha derinlemesine
ele almaları ve tartışmalara katkı sunmaları dileğiyle iyi
okumalar dilerim."

Değerli dostlar ;Prof. Dr.Murat Okçu ise  hazırladığı raporda;

Hayatın yeni gerçeği haline gelmiş yapay zekanın elbette ki fırsatları ve faydaları kadar tehdit ve riskleri de son derece yüksek 

Özellikle insan ve yapay zeka ilişkisi çocuk ve yapay zeka ilişkisi bağlamında öngörüüzün çok yüksek ve tedbirlerimizin de çok güçlü olması gerekiyor 

Bu anlamda Prof. Dr. Murat okçu hocamızın hazırladığı yapay zeka ve tehditleri ve neler yapılmalı başlığındaki çalışmayı sizlerin faydasına sunuyoruz 

Özellikle anne ve babalar ve gençler bu uzun olan çalışmayı dikkatle okumalı ve bireysel ve kolektif tedbirler ile ilgili düşünce üretmelidir
Faydalı olması dileğiyle

ÇOCUKLAR VE YAPAY ZEKÂ
GENEL GÖRÜNÜM
İnternet çocuklara yönelik tehdit ve saldırıları artırdı. Şimdi aynı şey yapay zekâ için de geçerli.
 
‘World Bank Group’ raporuna göre üretken yapay zekâ araçlarını her ay yaklaşık 3 milyar insan ziyaret ediyor. Unutmayın, dünya nüfusu 8 milyar (Yaklaşık %40)!
 
Yapay zekâ, özellikle de üretken yapay zekâ, çocuklara zarar vermek için kullanılabilir.
 
Bu noktada belki işin en kötü tarafı internet ve yapay zekânın çocukların cinsel istismarı için kullanılması.
SOMUT VE YAKIN YAPAY ZEKÂ TEHDİDİ: ÇOCUK CİNSEL İSTİSMARI
A) Yapay zekânın cinsel istismar için kullanılması: ABD’deki kurum üzerinden bir bakış
ABD à ‘Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’
​Amacı: *çocukları online istismardan korumak
*çocuk cinsel istismarı malzemelerinin dolaşımını engellemek (CSAM- Child Sexual Abuse Material)
2023 yılı Merkezin ihbar hattı:
​*Çocuk istismarı şüphesiyle 36.2 milyon ihbarda bulunulmuş. 2022’ye göre %12 artış.
​*ihbarların kapsadığı dosya sayısı 2023’te 100 milyonu geçmiş. Bir önceki yıla göre %19 artış.
*Merkez çalışanları 63.892 ihbarı acil veya yakın tehlike olduğu kolluk kuvvetlerine teslim etmişler. İhbarlar son 3 yılda %20 artmasına rağmen, ‘acil ihbar’ sayısı %140 artmış.
*36.2 milyon ihbarın 35.9 milyonu çocuk pornografisi ile alakalı.
İkinci sıradaki 186 bin ihbar ‘çocukların cinsel eylemler için online ayartılması’ için yapılmış. ‘Online ayartma’ cinsel suç işlemek üzere çocuk kılığına girilmesi demek. 1 yılda %300 artmış.
Sonra çocuğa müstehcen malzeme gönderilmesi, yanıltıcı alan adı kullanımı, çocuk seks turizmi
Yeni kavram: Yapay zekâ tarafından üretilen çocuk cinsel istismar materyali (AIG-CSAM)
Merkez à
“Yapay zekâ, çocuk güvenliği için verdiğimiz küresel mücadeleyi tehlikeye atıyor!”
Neden?à
Çünkü ‘üretken yapay zekâ’ çocuk cinsel istismarını kolaylaştırdı!
Nasıl? à
*Üretken yapay zekâ gerçek bir çocuğun masum bir fotoğrafını alıp cinsel içerikli sahte fotoğraflar veya videolar üretebilir
*Ortada böyle bir görüntü olmasa bile çocukları cinsel eylemde gösteren pek çok resim veya video gibi istismar malzemesi üretmeyi kolaylaştırır
*En büyük sorun: Bunu mağdurun haberi, bilgisi ve katılımı olmadan yapabilmesi
*Çocuklardan veya ailelerinden şantajla para koparmayı kolaylaştırıyor ve artırıyor
Şantaj ve dolandırıcılık türleri çeşitleniyor. Kurbanları dolandırmak ve para talep etmek için akrabaları taklit eden sentetik/yapay ses modelleri kullanılıyor.
*Çocuk cinsel tacizcileri arasında bilgi paylaşımını, yol göstermeyi kolaylaştırıyor
*Çocuk mağdurları belirleme çabalarını zorlaştırıyor/samanlıkta iğne aramak
*Mazeret: Gerçek çocuğa zarar vermedim, aslında bu çocuk değil. AIG-CSAM àCSAM
‘Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ Başkan Yardımcısı John Shehan (12 Mart 2024’te ABD Temsilciler Meclisi’nde verdiği ifade):
“Kurulduğumuzdan bu yana geçen 40 yıl bize, çocuk istismarcılarının genellikle yeni teknolojilere erkenden uyum sağladıklarını ve kötülükleri için teknolojik gelişmeleri kullandıklarını öğretti.”
???? Yapay zekânın cinsel istismar için kullanılması: İngiltere’deki kurum üzerinden bir bakış
İngiltere à ‘İnternet İzleme Derneği (Internet Watch Foundation)
Dernekà “Binlerce çocuk Deepfake görüntüler ile taciz ediliyor ya da istismara sürükleniyor”
Ekim 2023 ve Temmuz 2024 tarihlerinde yapay zekâyla çocuk cinsel istismarı görüntüleri oluşturulması hakkında 2 rapor yayınladı.
İlk rapor:
*Yapay zekâ tarafından oluşturulan 20.000'den fazla görüntünün varlığını ortaya koydu
*Failler, bu görüntüleri oluşturmak için ihtiyaç duydukları her şeyi yasal olarak indirebiliyor, daha sonra istedikleri kadar görüntü üretebiliyorlar
*Görüntüler uzmanların bile gerçeğinden ayırmayacağı kadar gerçekti
*Yapay zekâ faillerin çocuk cinsel istismarından kâr elde etmeleri için yeni yollar sunuyor
Güncellenen ikinci rapor:
Yapay zekâ tarafından oluşturulan çocuk cinsel istismarı materyallerinde artış var ve bu artış en ağır kategori olan Kategori A istismarını da kapsıyor.
*
1-2 Kasım 2023’te İngiltere’de dünya liderleri katılımıyla ‘Yapay Zekâ Güvenliği Zirvesi’ yapıldı.
Bu Zirve’deà İnternet İzleme Derneği ve İngiltere İçişleri Bakanlığı ortak oturum düzenlediler.
Toplantıya, “teknoloji devleri, hayır kurumları, akademisyenler ve uluslararası hükümet temsilcileri, politika yapıcılar, kolluk kuvvetleri ve çocuk koruma kuruluşları” katıldı.
Oturumun ardından Dernek, TikTok, Snapchat, Stability AI ve ABD ve Avustralya hükümetleri de dâhil olmak üzere 27 kuruluş mücadele için bir taahhüt imzaladı.
Günlük hayattan somut örnekler...
27 Mart 2023à “Google üzerinden bulunabilir, Visa ve Mastercard ile satın alınabilir: Deepfake porno ekonomisinin içinde”. Deepfake ekonomisi büyük ölçüde gözlerden uzak ancak son aylarda büyüdü ve insanların videolar için kredi kartıyla ödeme yapmasına olanak tanıdı. Deepfake porno dünyasının en önde gelen web sitelerinden biri olan MrDeepFakes ayda 17 milyon ziyaretçi çekiyor. (NBC News)
24 Eylül 2023à “Yapay zekâ tarafından oluşturulan çıplak çocuk görüntüleri İspanya'nın Almendralejo (Almendraleho) kasabasını şok etti.” Kasabada yaşayan ve yaşları 11 ile 17 arasında değişen 20'den fazla kız çocuğunun yapay zekâ tarafından oluşturulan çıplak görüntüleri sosyal medyaya konuldu. Görüntüleri elde etmek için kızların tamamen giyinik oldukları fotoğrafları kullanıldı. Bunlar daha sonra kişinin üzerinde kıyafet olmadan hayali bir görüntü oluşturan bir yapay zekâ uygulaması tarafından işlendi. (BBC)
2 Kasım 2023à ABD’de “Westfield Lisesi öğrencileri, sınıf arkadaşlarının yapay zekâyla çıplak görüntülerini oluşturmakla suçlanıyor”. Erkek öğrenciler yaz aylarında bir düzineden fazla kız öğrencinin orijinal fotoğraflarını kullanıp müstehcen görüntülerini üretmek için yapay zekâdan yararlanmışlar. (Fox5 News)
23 Kasım 2023à 'Deepfake'de üretilen çıplak fotoğrafların kurbanı olan genç kızlar için pek çok eyalette başvurulacak çok az yer var. (NBC News)
17 Ocak 2024à “New Jersey’de bir lise öğrencisi ve Deepfake kurbanı olan genç kız yapay zekâ tarafından oluşturulan müstehcen içeriği suç sayılacağı federal bir yasa için bastırıyor”. Kurbanın erkek arkadaşı 30'dan fazla kızın cinsel içerikli Deepfake görselini üretmiş.
15 Şubat 2024à Seattle polisi, Issaquah Lisesi yöneticisinin bazı öğrencilerin yapay zekâyı kullanarak 7 sınıf arkadaşının Instagram fotoğraflarını alıp onları "soymalarına" rağmen bunu rapor etmemesi üzerine harekete geçti. Polis tarafından hazırlanan rapor, büyük sosyal medya platformları aracılığıyla reşit olmayanlara tanıtılan kullanımı kolay yapay zekâ araçlarının, kızları taciz etmek, zorbalık yapmak ve korku yaymak için ne kadar yaygın ve kolayca kullanabildiğini ortaya koyuyor. Eyalet milletvekilleri, olanlardan dolayı yasaları güncellemek istediklerini söylüyorlar. (404 Media)
28 Şubat 2024à “Kaliforniya Beverly Hills'teki Beverly Vista ortaokulu idarecileri, sınıf arkadaşlarının yapay zekâyla oluşturdukları çıplak fotoğraflarını paylaşan öğrencileri arıyor”.
4 Nisan 2024à Londra polisi, St. Thomas Aquinas Katolik Ortaokulu'ndaki öğrenciler arkadaşlarının yapay zekâ ile oluşturulan çıplak fotoğraflarını paylaşmışlar (CBC News)
2023 Mayıs ayında ABD’de “Deepfake Mahrem Görüntülerin Önlenmesi Yasası” (Preventing Deepfake of Intimate Images Act) tasarısı Meclis Yargı Komitesi'ne havale edildi, ancak başka bir işlem yapılmadı. Tasarıyı getiren vekil: “Kurbanlar sadece ünlüler değil. Amerika Birleşik Devletleri'nin her yerindeki sıradan insanlar.” Hukukçu Mary Anne Franks: "Kadınlar ve kız çocukları için yapay zekâ tehdidi kapıda değil, işte burada hemen yanı başımızda" (NBC News)
24 Ekim 2024à “Floridalı anne, oğlunun intiharından yapay zekâ sohbet robotunun sorumlu olduğunu iddia ederek dava açtı.” Çocuk, hem Game of Thrones dizisinden bir karakterin ismini verdiği bu ve diğer sohbet robotlarıyla cinsel içerikli sohbetler yapmış. Son mesajı şu: "Söz veriyorum, sana geleceğim. Seni çok seviyorum." (NBC News)
ChatGPT sadece ödevlerini yapan öğrenciler tarafından kullanılmıyor!
Sadece çocukların cinsel istismarı değil, başka açılardan da riskler ve doğrudan tehditler mevcut
UNICEF ve World Economic Forum (WEF) yapay zekânın çocuklar için doğuracağı fırsatlar ve riskler hakkında çalışma raporu şu 4 başlıkta riskleri özetliyor.
​*Gizlilik, Emniyet ve Güvenlik
1) Kimlik koruması (a-Finansal koruma, b-Uydurma kimlikler/kimlik hırsızlığı)
2) Zararlı içerikler (şiddet, argo, terör, suçun güzel gösterilmesi)
3) Konum tespiti
4) Biyolojik güvenlik (genlerle oynama)
*Bilişsel/Psikolojik Yansımalar
Çocukların ve gençlerin teknolojiyle etkileşime girdiği yeni yollar, temel fizyolojimiz ve psikolojimiz üzerinde etkilere sahip.
1) Yapay zekâ beyne ne yapar?  Bilme görevlerini devrettiğimizde ne olur?
2) Psikolojik yansımalar nelerdir? Depresyon, anksiyete, sosyal beceriler?
3) Bilişsel manipülasyon riski nedir? Çocukların davranışlarını yönlendirmek veya kontrol etmek için yapay zekâyı kullanmak?
*Hizmetlere Erişim, Kapsayıcılık ve Eşitlik
1) Yapay zekâ destekli makineler hayati fırsatlara kimlerin ulaşacağına karar veriyor. Örneğin okul başvurularında kullanılacak. Ayrımcılığı önlemek için bilinçli ve temkinli olmak gerek.
2) Kimin hangi hizmetlere, hangi fiyat noktasında hangi kalitede eriştiğini belirlemek için yapay zekâ kullanılacaksa... Çocuklar hayata adil yollardan geçerek başlayabilecek mi?
àEğitim, Sağlık, Sosyal hizmetler, Finansal Hizmetler, İstihdam ve işe alma vb. sektörlere dikkat
*Geçimini Sağlamak ve Saygın Bir Hayat Kurmak Önündeki Yapay Zekâ Otomasyonu Riski
1) Yapay zekâ otomasyonu yüzünden iş açısından fırsatlar manzarası değişecek. Tüm çocuklar içinà Geçimini onurluca sağladığı bir yaşam ve topluma aktif katılımı nasıl başaracağız?
2) İstihdamà Robotların günümüz ekonomisindeki işlerde insanların yerini alması işgücüne girecek çocuklar yetiştiren ebeveynler için ne anlama geliyor?
3) Beceriler değişiyor, aileler ne yapmalı? Yeni becerileri örgün eğitim veya diğer yollarla nasıl sağlayacağız?
4) Sosyalleşme sorunları nasıl halledilecek? Sosyal gelişim açısından baktığımızda çocukların artık sınıflarda öğrenmemesi ne anlama geliyor?
5) Boş zaman sorunu. Gençlerin zamanlarını doldurmak için geleneksel 'işleri' veya aktiviteleri olmaması nelere yol açıyor? 'Amaçlı boş zaman' fikri işe yarar mı?
 
 
NELER YAPILIYOR VE BUNDAN SONRA NELER YAPILABİLİR?
1) Yapay zekâ sektöründe teknolojiye yön verenler
2024 Nisan ayında aralarında OpenAI, Microsoft, Google, Meta gibi 11 teknoloji devi çocuk cinsel istismar materyali üretilmesinde kendi araçlarının kullanılamayacağına dair taahhüt verdi.
Taahhüdün hayata geçmesine Thorn ve All Tech Is Human isimli kâr amacı gütmeyen platformlar öncülük ettiler. Hedef:
*1)Yapay zekâ aracılığıyla çocuk istismar görselleri oluşturulmasına engel olmak 2)Oluşturulmuş görsellerin arama motorlarından ya da sosyal medyadan kaldırılması
‘Çocukların cinsel istismardan korunmasının bir yapay zekâ özelliği olması’ Yapay zekâ konuşuyor, görüyor, vs. vs. artı çocukları koruyor​
“Üretken Yapay Zekâ için Tasarım Yoluyla Güvenlik: Çocuk Cinsel İstismarını Önleme” rehberià Çocukları cinsel istismardan koruyan bir üretken yapay zekâ oluşturmak için temel ilkeler
Temel ilkeà‘Tasarımda Güvenlik’/‘Safety by Design’-Üretirken güvenli yapay zekâ üretmek
2) Uluslararası kuruluşların rehberliği ve öncelik alması
* UNICEFà 'Çocuklar için Yapay Zekâya İlişkin Politika Rehberi' (2021)
* BM İnsan Hakları Konseyià Özel Hayatın Gizliliği Özel Raportörü, Mahremiyet Hakkı ve Çocukların Mahremiyetine İlişkin Raporu (2021)
* Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) Standartlar Birliğià Yaşa Uygun Dijital Hizmetler Çerçevesi (2021)
* Dünya Ekonomik Forumuà Çocuklar için Yapay Zekâ Araç Seti (2022)
* Avrupa Komisyonuà Ortak Araştırma Merkezi, 'Yapay Zekâ ve Çocuk Hakları' Kılavuzu (2022)
3) Yasa yapıcıların harekete geçirilmesi ve gerekli düzenlemelerin yapılması
ABDà Çocukların Çevrimiçi Güvenliği Yasası (KOSA) Tasarısı
Amaç: Reşit olmayanları korumak için yasal standartlar oluşturmak ve platformların çevrimiçi zararları daha iyi şekilde azaltmasını sağlamak
Aralık 2023'ün ortalarında Senato Ticaret, Bilim ve Ulaştırma Komitesi'nden geçti Senato’dan geçmeyi bekliyor
4) Birey ve ailelere düşen somut görevler
FBI, 5 Haziran 2023 tarihinde “Müstehcen içerik ve cinsel şantaj planları oluşturmak için fotoğrafları ve videoları manipüle eden kötü niyetli aktörler” başlığı ile resmi bir uyarı yayınladı.
Vatandaşların içerik paylaşırken (ör. fotoğraflar ve videolar) veya online olarak bireylerle etkileşim kurarken aşağıdakileri göz önünde bulundurmasını öneririz:
• Çocukların çevrimiçi etkinliklerini izleyin ve kişisel içerik paylaşımıyla ilişkili riskleri tartışın
• Özellikle çocukları veya bilgilerini içeren online resim, video ve kişisel içerikleri yayınlarken sağduyulu olun.
o Çevrimiçi olarak yayınlanan resimler, videolar veya kişisel bilgiler, bilginiz veya izniniz olmadan kötü niyetli aktörler tarafından yakalanabilir, manipüle edilebilir ve dağıtılabilir.
o İçerik internette paylaşıldıktan sonra, diğer taraflarca dağıtıldıktan veya yayınlandıktan sonra kaldırılması imkânsız olmasa da son derece zor olabilir.
• Kişisel bilgilerinizin internette açığa çıkmasını ve yayılmasını belirlemek için sizin ve çocuklarınızın bilgileri (ör. Tam ad, adres, telefon numarası vb.) için sık sık çevrimiçi aramalar yapın.
• Fotoğraflarınızın, videolarınızın ve diğer kişisel bilgilerinizin herkese açık olarak gösterilmesini sınırlamak için profilleri ve arkadaş listelerinizi özel olarak ayarlamak da dâhil olmak üzere sosyal medya hesaplarında gizlilik ayarlarını uygulayın.
• Arkadaşlık isteklerini kabul ederken, iletişim kurarken, görüntülü sohbetler yaparken veya şahsen tanımadığınız kişilere resim gönderirken dikkatli olun. Sizden hemen bunları isteyen veya baskı yapan kişilere karşı özellikle dikkatli olun. Bu öğeler ekran görüntüsü alınabilir, kaydedilebilir, manipüle edilebilir, bilginiz veya izniniz olmadan paylaşılabilir ve sizi veya tanıdığınız birini istismar etmek için kullanılabilir.
• Bilinmeyen veya tanıdık olmayan kişilere para veya diğer değerli eşyalar vermeyin. Kötü niyetli aktörlere uymak, hassas fotoğraflarınızın veya içeriğinizin paylaşılmayacağını garanti etmez.
• Karmaşık parolalar veya çok faktörlü kimlik doğrulama kullanarak sosyal medyayı ve diğer çevrimiçi hesapları güvence altına alın.
• Resim, video veya diğer kişisel içerikleri yüklemeden ve paylaşmadan önce sosyal medya platformlarının, uygulamaların ve web sitelerinin gizlilik, veri paylaşımı ve veri saklama politikalarını araştırın.

Değerli dostlar yapay zeka ve çocuklar raporu Prof. Dr. Murat Okçu hocamız tarafından hazırlanmıştır kendisine teşekkür ediyoruz"

ifadelerini kullandı.