Hukuki düzenlemeler, boşluklar ve sorumluluk
A- Giriş
Yapay zekânın hukukla ilişkisi, modern zamanların en karmaşık ve çok boyutlu tartışmalarından biridir. Bir yanda insan hayatını kolaylaştıran, üretkenliği artıran bir araç; diğer yanda kendi kararlarını kendi alabilen, hatta bazen öngörülemez davranışlar sergileyen, zaman zaman “halüsinasyonlar gören “bir sistemden bahsediyoruz. Elbette bu durum, hukukçular için bilim kurgu değil ama bazen ‘Skynet’ benzetmeleri yapılmadan da geçilemiyor. Henüz T-800, T-1000’lerin, replikantların sokaklarda gezinmediği bir dünyada yaşıyoruz, ancak yapay zekânın yanlış yönlendirilmiş kararları, pratik hayatta ciddi zararlara neden olabiliyor. Bu yüzden hukukun refleksi, teknolojinin hayal gücünden çok daha yavaş olmasına rağmen, hukuk bu riski görmezden gelemiyor. Ancak yapay zekâya ilişkin düzenleme çabaları, yalnızca teknik denetimle sınırlı kalmamalıdır. Etik, şeffaflık ve hesap verebilirlik ilkeleri, bu alanın temel taşı olmalıdır. Zira bir algoritmanın verdiği kararın arkasında, kimin iradesi olduğu belirsizse, hukuk da adaleti sağlamada eksik kalır.
B- Skynet’e doğru mu?
Önceki yıllarda internet hukuku, bulut bilişim, dijital telif hakları, DRM sorunları, hatta bilgisayar oyun karakterlerinin hukuki statüsü gibi konuları uzun uzun tartıştık. Çalıştaylar yaptık, bildiriler sunduk. Kısa bir geriye bakışla hep aynı cümleyi kurduk: “Ne kadar karmaşık işler bunlar.” Ve gerçekten de hâlâ bu meseleler, biz hukukçuların masasında tazeliğini koruyor.
Bugüne geldiğimizde ise, tablo biraz daha çetrefilli hale geldi. Çünkü artık sahneye Yapay Zekâ (YZ) çıktı. Hoş mu geldi, tartışılır. Ama yine de — akademik derinliklere dalmadan, sohbet kıvamında — bu konuyu biraz kurcalamak istedim. Bu kısa incelememde; odağımı hangi hususa ayıracağım önemliydi. Zira burada aslında inceleme konusu var.
- Yapay zekânın profesyonel alanlarda (Tıp, İş Geliştirme, Psikoloji, Hukuk, Mimarlık vb.) kullanımı,
- Yapay zekânın hukuken düzenlenmesi (sorumluluk, veri koruma, telif sorunları, suçlar vb.)
Ben ikincisine odaklandım. Birinciyi ise başka bir zaman, aynı üslup ile yazmayı planlıyorum. Burada amacım, YZ sistemlerinin hukuk karşısındaki konumunu, özellikle sorumluluk zinciri ve ceza hukuku açısından ele almak.
YZ, yalnızca teknolojik bir yenilik değil; mevcut hukuk düzenlerinin sınırlarını zorlayan açık bir olgu. Teknoloji artık “ergenliğe” girdi. 18 yaşını tamamladı ve özgür bir birey. Artık, algoritmalar öğreniyor, hatta öğretiyor, birbirleri ile de iletişim halindeler ve kendi kararlarını kendileri alıyorlar. Fotoğrafınızı işliyor, videolar yapıyor, hayatlara dokunuyor, komik işler ortaya çıkartıyor, size arkadaşlık ediyor, ev işlerinde iyi bir yol gösterici oluyorlar. Hatta manavın önünde fotoğrafını çekip gönderdiğiniz karpuzlardan, “hangisini almanız gerektiğini” sorduğunuzda, onu bile söylüyor. Kararlar alıyor, yönlendirmeler yapıyor ve tavsiyeler veriyor, eleştiriyor, pohpohluyor. Eğlenceli, evet. Ama YZ’nin bu karar verme süreci ve bireyleri yönlendirmeleri, bir kişinin ya da kurumun hayatını olumsuz şekilde etkilediğinde, mesele de artık ciddiye biniyor. Üstelik artık sahnede sadece bireyler veya kurumlar yok; makineler de kendi aralarında konuşuyor. Bireysel kullanımlar dışında, birçok hizmet ve üretim sektörü, endüstri ve otomasyon da YZ’ye emanet.
IoT (Internet of Things) ve M2M (Machine to Machine) sistemleri, karar alma süreçlerini büyük ölçüde yapay zekâya devretmiş durumda. Otomotiv sektörü, akıllı evler, fabrikalar, otomobiller çoğunlukla bu sisteme dönmeye başladı. Bir buzdolabı veya X marka bir Tır Kamyonu YZ desteğinden yararlanıyor. Bu arada, T-800’ün kulağı çınlasın, kontrolü makineler devralıyor gibi. YZ’nin kendi başına karar alabilmesi, “insanın yönlendirmesi” dışında eylemde bulunabilmesi, klasik fail ve sorumluluk kavramlarını yeniden düşünmeyi zorunlu kılıyor. Hukuk sistemleri, insan iradesi üzerine inşa edilmiştir; oysa artık karşımızda “özerk” davranabilen sistemler var.
Uç ve kurgusal bir örnekle düşünelim; eğer T-800 gerçek olsaydı ve birine zarar verseydi, kim cezai açıdan sorumlu olurdu? Programcı mı, üretici mi, sağlayıcı mı, yoksa sistemin toptan kendisi mi?
Tam da bu soruların yarattığı gri alanda, hukukun yeni bir antagonist olarak sahneye çıkması gerekiyor çünkü yapay zekânın karşısında – aklı temsil edecek başka kimse kalmadı. Üstüne üstlük, YZ sistemleri artık sibernetik organizmalara da yerleştirilmeye başladı. Önümüzdeki dönemlerde, karşımıza fiziken çıkıp bireyler gibi davranabilecekler. Zira, YZ sistemlerinin fiziksel varlıklara yerleştirilmesi artık bugünün gerçeği: Örneğin otonom robotlar, sağlıkta yapay zekâ destekli protezler ve cerrahi robotlar veya yarı otonom askeri sistemler bu kapsamda değerlendirilebilir. Ayrıca yukarıda “bireyler gibi davranabilecekler” demiştim. Bu da bana kalırsa abartı değil. Zira davranışsal simülasyon (konuşma, tepki, karar verme) açısından zaten o sınır bulanıklaşmaya başladı bile.
C- Mevcut hukuki çerçeve ve düzenleme çabaları
Bildiğimiz üzere, mevcut hukuk düzenleri statik olup, teknolojinin bu hızlı dinamiklerine aynı hızda yanıt veremez. Avrupa Birliği -etik tartışmalar bir yana- AI Act (Yapay Zekâ Yasası) ile, risk temelli bir düzenleme modeli geliştirmeye çalışırken; Türkiye’de henüz yapay zekânın hukuki statüsünü doğrudan belirleyen normatif bir çerçeve mevcut değildir. YZ Ülkemizde halen bir araç olarak görülüyor. (Ancak xAI şirketi kontrolündeki GROK’un siyasete ve siyasi aktörlere hakaret etmesi ve hatta küfürlü konuşması konusunda, Türk Hukukunun verdiği refleksi de unutmamak lazım. Buna aşağıda ayrıca değineceğim.)
Sorumluluk zinciri, YZ hukuku tartışmalarının merkezinde yer alır. Geleneksel hukukta fail, fiili gerçekleştiren insandır; ancak otonom sistemlerde eylemin faili bir algoritma olabilir. Bu durumda hukuk, ‘fail kimdir?’, “tazminat borçlusu kimdir ?” sorusuna yeni yanıtlar aramak zorundadır. Kimi görüşler, üretici ve geliştiriciyi sorumlu tutarken; kimileri, sistemin kontrolünü elinde bulunduran kullanıcıya doğrudan yönelmek gerektiğini savunur.
Ceza hukuku bakımından ise durum çok daha karmaşıktır. Bir yazılımın kast veya kusurla hareket ettiğini söylemek mümkün değildir; dolayısıyla ceza sorumluluğu doğrudan yapay zekâya atfedilemez. Ancak bu, fiilin sonuçsuz kalacağı anlamına da gelmemelidir. Hukuk, bu noktada dolaylı sorumluluk teorileri ve öngörülebilirlik ilkesi üzerinden çözüm aramalıdır. Örneğin, yapay zekânın yanlış yönlendirilmiş bir tıbbi teşhis sisteminde, hastaya zarar vermesi hâlinde veya genç bir bireyi intihara sürüklemesi halinde, sistemin tasarımında özen göstermeyen üretici ya da yeterli denetimi sağlamayan kurum sorumlu tutulabilir.
Tüm bu tartışmaların ortasında hukuk, bir yandan “insan ve hakları merkezli” prensiplerini korumaya, diğer yandan teknolojinin özerkliğini tanımaya çalışmaktadır. Skynet örneğinde olduğu gibi, kontrolün kimde olduğu sorusu hâlâ en kritik mesele olmaya devam etmektedir. Geliştirici/yazılımcının kontrolünden çıkan bir YZ (YZ’nin ileride sibernetik organizmaya gömüldüğünü de düşünürsek) kim bilir neler yapabilir ? Bilim kurgu yazarları bu meselenin üzerinde çok daha önceleri durmuştu. Isaac ASIMOV 1950 yılında yayınlanan “I Robot” adlı eserinde, pozitronik (nörolink projesi bu kapıyı araladı bile) gelişimin ahlaki boyutlarını son derece güzel işlemişti. (Filmini değil kitabını tavsiye ederim.) Dünyaca ünlü matematikçimiz, Arf Sabitinin yaratıcısı, Cahit ARF da, “Makine Düşünebilir mi?” adlı bilimsel incelemesinde, bu konuya bilimsel açıdan yaklaşmıştı. (1958) Tarihlere bakar mısınız ?
Şimdi hem AB hem de Türkiye açısından biraz daha derine inelim. Buyurun aşağıya,
I- AB evreninde neler oluyor?
AB’de devreye alınan, AI Act hali hazırda bir regülasyon olarak kabul edilmiş durumdadır.
Bu, daha çok geçici bir yol haritasıdır. Ancak aktif olarak geçiş ve uygulama süreci devam etmektedir. Bu yasanın yapılmasındaki temel motivasyonun, daha ziyade etik tartışmalardan doğduğu da söylenebilir. Aslen “kâğıt üzerinde yasama süreci tamamlandı” diyebiliriz fakat bu düzenlenmenin “somut, uygulanabilir bir iç hukuk düzeni” hâline gelmesi için birkaç yıl daha gerektiği düşünülmektedir. Kısaca mevcut durumda Avrupa Ülkelerinde de YZ’yi düzenleyen ve tam hukuki koruma sağlayan yasal bir düzenleme henüz bulunmamaktadır.
YZ için aslında, dünyanın ilk kapsamlı düzenleyici çerçevesi olarak kabul edilen AI Act, bazı yapay zeka kullanımlarını tamamen yasakladığı gibi, diğer kullanım biçimleri için de katı yönetişim, risk yönetimi ve şeffaflık yönetimleri gibi katmanlı kurallar düzenlemiştir.
AI Act içerisindeki eko sisteme baktığımızda, sistemdeki aktörlerin kimler olduğunu da net bir şekilde görürüz. Bu aktörler; sağlayıcılar, dağıtımcılar, ithalatçılar, distribütörler, ürün üreticileri ve yetkili temsilciler gibi YZ değer zincirindeki, birden fazla operatörü barındırır ve düzenleme hepsini kapsar.
AI Act, bu aktörlerin hangi rolleri icra ettiğini de tanımlamıştır. Örneğin, “Sağlayıcı”lar, bir YZ sistemi veya genel amaçlı YZ (GPAI-General Purpose Artificial Intellence- Genel Amaçlı Yapay Zeka) modeli geliştiren, bunu kendi adı veya ticari markası altında piyasaya süren veya YZ sistemini hizmete sunan kişi veya kuruluşlardır. Kısaca farklı alanlarda ve amaçlarda kullanılabilen, çok yönlü YZ modellerini hizmete sunan işletmecilerdir. Diğer, aktörler de bu yasada tanımlanmıştır.
Avrupa Birliği, YZ’nin hem ekonomik hem toplumsal faydalarını gözeterek, aynı zamanda bireylerin temel haklarını korumayı hedefleyen bir yasal çerçeve oluşturmak istemektedir. YZ teknolojileri; sağlık, çevre, kamu yönetimi, finans, otomotiv, ulaşım ve tarım gibi alanlarda büyük fayda sağlasa da, bu teknolojiler yanlış kullanıldığında bireylerin hak ve özgürlükleri üzerinde ciddi riskler doğurabilecektir. AI Act, işte bu fayda–risk dengesini kurmayı amaçlar.
Temel ilkelerine birlikte bakalım;
- İnsan Merkezlilik: Her YZ sistemi, insan denetimine tabi olmalı ve Avrupa değerlerine (özgürlük, insan onuru, veri koruma) uygun çalışmalıdır.
- Şeffaflık: Kullanıcı, bir YZ sistemiyle etkileşimde olduğunu bilmeli ve sistemin kararlarını izleyebilmelidir.
- Sorumluluk ve Güvenlik: Geliştirici, sağlayıcı ve kullanıcılar arasında açık bir sorumlu luk zinciri kurulmalıdır.
- Etik ve Temel Haklar: YZ sistemleri; ayrımcılığa, gözetim istismarına veya manipülasyona yol açmamalıdır.
AI Act, sistemleri risk düzeyine göre dört katmana ayırır: Kabul edilemez risk, yüksek risk, sınırlı risk ve asgari risk. Kabul edilemez risk taşıyan sistemler (örneğin sosyal skorlamalar) tamamen yasaklanırken, yüksek riskli sistemler için sertifikasyon ve sürekli denetim şartı getirilmiştir.
- “Yüksek riskli” YZ sistemleri için özel yükümlülükler var: örneğin iş başvurularında kullanılması, kritik altyapılarda kullanılması gibi. (Kaynak Long awaited EU AI Act becomes law after publication in the EU’s Official Journal | White & Case LLP) Yüksek riskli sistemlerde, uygunluk değerlendirmesi, izleme, kayıt tutma gibi yükümlülükler de getirilmiştir.
- “Kabul edilemez risk” taşıyan uygulamalar tamamen yasaklanıyor — örneğin toplumsal skorlama (social scoring) sistemlerine yol açan uygulamalar. (Kaynak: https://www.whitecase.com/insight-alert/long-awaited-eu-ai-act-becomes-law-after-publication-eus-official-journal) Burada “Sosyal Skorlama nedir?” derseniz. Kısaca; devlet ya da özel kuruluşlar, bireylerin dijital izlerini (harcama, seyahat, sosyal medya, ilişkiler, disiplin, kredi geçmişi…) toplayıp bir “güvenilirlik” ya da “uygunluk” puanı çıkarır Bu puan da bireyin hayatını doğrudan etkiler. Örneğin kredi alıp alınmaması, işe girip girememek, hatta bir şehre seyahat edip edememek gibi.
- “Şeffaflık” Daha düşük riskli sistemlere karşı, daha hafif yükümlülükler getirir. (Kaynak What is the EU AI Act? | IBM) Bu kategorilerdeki hükümlere uymayanlar hakkında ise, ihlalin boyutuna göre, milyonlarca Euro ya da yıllık ciro orantılı ciddi idari para cezaları öngörülmüştür.
Bunların dışında; ChatGPT, Perplexity ve benzeri Genel Amaçlı Yapay Zekâ (GPAI) sistemleri için ayrı düzenlemeler oluşturulmuştur. Bu modellerin başka uygulamalarda da kullanılabileceği göz önüne alınarak, sağlayıcılara şeffaflık, veri güvenliği ve risk bildirim yükümlülükleri getirilmiştir.
Yasa, doğrudan tüm AB ülkelerinde geçerli olacak, ancak bazı hükümler kademeli olarak yürürlüğe girecektir. Uyumsuzluk durumunda, ciddi idari para cezaları uygulanabilecektir. Ancak üye devletlerde uygulamaya dönük, iç hukuk düzenlemeleri henüz tamamlanmadığı için, koruma hâlâ GDPR, ürün güvenliği ve tüketici hukuku gibi dolaylı mevzuatlar üzerinden sağlanmaktadır. Kısaca, yasanın halen mevcut genel normlar kapsamıyla birlikte değerlendirilmesi gerekmektedir.
AI Act’in AB sınırları dışında uygulanması ise, YZ çıktılarının AB içerisinde kullanılması durumunda, AI Act’in, AB dışındaki sağlayıcılar ve dağıtımcılar için de geçerli olmasıdır. Örneğin, AB ülkesindeki bir şirketin, verileri işlemek için YZ’yi kullanan AB dışındaki bir YZ sağlayıcısına veri gönderdiğini ve ardından çıktıyı kullanmak üzere, AB ülkesindeki şirkete geri gönderdiğini varsayalım. Sağlayıcının YZ sisteminin çıktısı AB ülkesinde kullanıldığından, Sağlayıcı, AB YZ Yasasına tabidir. AB’de YZ hizmetleri sunan AB dışındaki sağlayıcılar, kendi adlarına uyumluluk çabalarını koordine etmek için AB’de yetkili temsilciler atamalıdır. Bence örneğin Hindistan gibi geliştiriciler bunun üzerinde düşünmeli. (Kaynak: www.ibm.com/think/topics/eu-ai-act?utm_source)
Açıkçası bana göre bu durum, yargı yetkisinin ve egemenlik sınırlarının ihlalidir. AB her zamanki gibi, “Pazar etkisi” (market impact) kavramını kullanarak yine kendine alan açmaktadır. GPDR mantığını bire bir, bu regülasyona da yerleştirmişler. Ekonomik ve finansal dinamiklerle, pazarı domine etme mantığının yansımasıdır ve eleştiriye açık olduğunu düşünüyorum.
Sonuç olarak, AB evrenindeki bu düzenleme, Avrupa Birliği’nin YZ’yi tamamen yasaklamadan, etik ve güvenli sınırlar içerisinde kullanmayı hedefleyen ilk kapsamlı yasal girişimdir.
Ancak hâlen AB ve diğer ülkelerde, içsel somut uygulama yasaları eksiktir; bu da küresel ölçekte sorumluluk zincirinin hâlâ belirsiz ve eksik olduğunu gösterir. Tam bir yasal entegrasyon için henüz erken olduğu ortadadır. Yasalar, yukarıda da değindiğimiz gibi bu hızlı devinimin gerisindedir.
Henüz Skynet gelmedi belki, ama hukuk dünyasının da ‘yapay zekâ kıyametine’ hazırlıklı olması gerektiği çok açık olarak görülmektedir. Aksi halde, “bana göre” distopik bir gelecek hiç de mantıksız ve uzak değildir.
II- Türkiye’de durum nedir ve neler oluyor?
Türkiye’de AI Act benzeri kapsamlı bir YZ yasası henüz bulunmamaktadır. Mevcut mevzuat yalnızca dolaylı koruma sağlamaktadır. Kişisel Verilerin Korunması Kanunu (KVKK), kişisel verilerin işlenmesi ve korunması yönünden önemli bir dayanak oluştururken; Türk Ceza Kanunu (TCK) bilişim suçları ve “bilişim sistemleri aracılığıyla işlenen fiillere” ilişkin hükümleri ile, dolaylı da olsa bir koruma içermektedir. Ayrıca Türk Borçlar Kanunu (TBK) da, YZ sistemlerinin yol açtığı zararlarda tazminat sorumluluğuna ilişkin genel ilkeler çerçevesinde başvurulabilecek potansiyel bir referans noktasıdır. Ne var ki, bu üç düzenleme de, YZ’nin özerk karar alma kapasitesini doğrudan ele almamaktadır. Dolayısıyla, yapay zekâ kaynaklı zararlarda uygulanabilir hükümler bulunmakla birlikte, bunlar doğrudan değil, dolaylı çözümler sunmaktadır.
Türkiye’de Hukuki açıdan asıl mesele, sorumluluk zincirinin belirsizliğidir. Ekosistemde yer alan üretici, geliştirici, kullanıcı ve veri sağlayıcısı farklı düzeylerde etki sahibidir. Ancak sistemin otonom davranış sergilediği durumlarda, klasik kusur sorumluluğu ilkeleri işlememekte, hatta yer yer çökmektedir. Ve burada kaçınılmaz bir soru doğar.
Metafor olarak, T-800’ü hapse mi atacağız? Ceza hukuku bakımından mesele daha da çetrefillidir; çünkü isnat kabiliyeti, kast, kusur ve irade gibi kavramlar, kendi kendine karar veren bir yazılımın varlığına atfedilemez. Bu nedenle, cezai sorumluluğun kime yöneltileceği hâlâ yanıtsız bir sorudur. O zaman, “ortaya çıkan suçta, suçu yazılımcıya isnat ederiz” diyerek işin içinden çıkarız, olur biter. Ancak bu da maalesef çıkmaz bir sokaktır.
Kısaca aşağıdaki gibi açmaya çalışayım;
1. TBK Kusur sorumluluğu açısından: Eğer yazılımcı, sistemin öngörülebilir bir hataya yol açacağını bilebilecek durumdaysa ve buna rağmen önlem almamışsa, evet — kusur yüklenebilir. Yani “Dikkatsizlik” veya “Özen Eksikliği” varsa sorumluluk doğar. Objektif kusur sorumluluğu da zaten bunu gerektirir. Ama otonom sistem, kendi öğrenme süreci içerisinde yeni bir davranış geliştirdiyse, yazılımcının bu sonucu öngörmesi makul olmaz. İşte o noktada kusur, illiyet zinciri kopar.
2. Ürün sorumluluğu (objective liability): Burada failin niyeti önemli değildir. Sistem bir “Ürün” olarak piyasaya sürülmüşse, üretici veya sağlayıcı güvenliğini sağlamakla yükümlüdür. Hata, yazılım kaynaklı olsa bile, hukuken ürün güvenliği çerçevesinde suç oluşturan eylem, üreticiye yüklenebilir. Ama bu da cezai değil, tazminat (özel hukuk) alanıdır.
3. Ceza hukuku bakımından: Yazılımcıya ancak “Bilinçli Risk Yaratma” (olası kast) gibi durumlarda suç isnat edilebilir. Fakat yazılımın kendi karar mekanizması varsa, bu bağı kurmak neredeyse imkânsızdır. Yazılımcı YZ sistemini, tamamen pozitif odaklı ve hizmete yönelik hazırlamış olabilir. Buna rağmen YZ kötü bir karar alabilir. O yüzden ceza hukuku, şimdilik bu tür otonom sistemleri “olası kast, bilinçli taksir” gibi ceza hukukuna ilişkin yöntemlerle yargılayamaz. O nedenle T-800 şimdilik hapisten yırttı diyebiliriz.
Kısacası, mevcut hukuk düzeninde, yazılımın yarattığı eylem ve bunun sonucu, geliştiriciye doğrudan atfedilemez. Ancak geliştiricinin öngörülebilir riskleri önlememesi durumunda dolaylı sorumluluk kurulabilir. Yazılımcının/geliştiricinin doğrudan sorumlu tutulması hâlinde ise, cezai yaptırım kaygısıyla, geliştiriciler üretim süreçlerini durdurabilir. Bu da birçok otomasyon sisteminin çökmesi gibi ağır sonuçlar doğurabilir ve bunun yaratacağı domino etkisini düşünmüyorum bile.
Bu durum ise hukukun ilerlemeyi teşvik eden işlevi açısından son derece olumsuz bir sonuç yaratır. Bu nokta oldukça hassastır ve menfaatler dengesi ile toplum yararı arasında bir paradoks yaratmaktadır. Ancak bu durum, başlı başına ayrı bir tartışma konusudur. Ve belki de henüz bunu tartışmak için erken.
Türk hukuku açısından ise, geçtiğimiz yıl, bildiğiniz üzere bir GROK vakası yaşandı. Bu vak’a tam da, konumuzla ilgili. Bakalım neler olmuştu ? Yukarıda bahsettiğim açıklamalara, işbu somut olayı örnek olarak aldım. Buyurun aşağıdan devam edelim. Vaka İncelemesi: Grok Chatbot Olayı ve Türk Hukuku Temmuz 2025’te ülkemizde, GROK isimli yapay zekâ sohbet robotunun bazı çıktılarında, Türkiye Cumhuriyeti Cumhurbaşkanı’na ve dini değerlere hakaret ve küfürleri içeren ifadeler yer aldığı iddiasıyla soruşturma başlatılmış idi. Hatta sosyal medyada ve basında GROK ÇILDIRDI gibi söylemler döndü. Ankara Cumhuriyet Başsavcılığı tarafından açılan soruşturma kapsamında, GROK’un oluşturduğu bazı içerikler ‘Hakaret’ ve ‘Kamu Düzenine Aykırılık’ gerekçesiyle incelenmiş ve 5651 Sayılı Yasa kapsamında, Ankara 7. Sulh Ceza Hakimliği tarafından yaklaşık 50 içeriğe erişim engeli kararı verilmişti.
Bu kararın hukuki dayanağı olarak, Türk Ceza Kanunu’nun 299. Maddesi (Cumhurbaşkanına Hakaret) ile 5651 sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi Hakkında Yasa’nın erişim engelleme hükümleri gösterilmiştir. Ancak GROK’un bir yapay zekâ modeli olması, bu içeriklerin üretiminde ‘failin kim olduğu’ sorusunu belirsiz hale getirmiştir. Yoksa fail Elon Musk mı?!
Bu olay, Türkiye’de yapay zekâ sistemleriyle ilişkili içeriklerin, hukuken sorumluluğunun kime ait olduğu konusunda ilk örneklerden biri olmuştur. GROK olayı, yapay zekânın otonom çıktılarının, cezai ve idari sorumluluğa konu edilmesinde, bana göre hukukun mevcut araçlarının sınırlılığını göstermektedir.
Hukuki Çözümleme ve Değerlendirme
GROK olayına, hukuki yönden bakıldığında, bu vakada doğrudan bir ‘fail’ tespiti mümkün olmamıştır. Yapay zekânın kendi algoritmik öğrenme süreciyle oluşturduğu içeriklerin, ceza hukuku kapsamında değerlendirilmesi kast, kusur, isnat kabiliyeti ve irade unsurlarının yokluğu nedeniyle güçleşmektedir. Bu nedenle, ceza sorumluluğu bakımından geliştirici, sağlayıcı veya kullanıcı arasında net bir atıf yapılamamıştır. Olay, aynı zamanda Türkiye’de YZ kaynaklı içeriklerin hukuki statüsünün henüz belirlenmemiş olduğunu da ortaya koymuştur. Mevcut durumda, benzer vakalar ancak dolaylı mevzuatlar — KVKK, TCK ve 5651 sayılı Kanun —üzerinden ele alınabilmektedir. Ancak bu yaklaşım, uzun vadede hem ifade özgürlüğü hem de teknolojik inovasyon açısından riskler barındırmaktadır. Bu konuya ve risklerine yukarıda kısaca değinmiştim.
Sonuç olarak; GROK vakası YZ sistemleri tarafından üretilen içeriklerin sorumluluğuna dair Türkiye’deki hukuki boşlukları somutlaştıran net bir örnek olarak değerlendirilebilir. Grok vakası, bana göre, YZ’nin ifade özgürlüğü ve ceza sorumluluğu arasındaki dengenin henüz kurulamadığını göstermektedir. Bu olay, gelecekte Türkiye’nin YZ’ye özgü yasal düzenlemeler geliştirmesi gerektiğine dair güçlü bir sinyal niteliğindedir.
Gelecekte YZ’nin hukuki statüsünün netleşmesi, yalnızca yasa koyucuların değil, etikçiler, teknolojistler ve fütüristlerim de ortak katkısını gerektirecektir. YZ’ye kişilik tanımak, kimlik vermek veya onu özel bir hukuki kategoriye yerleştirmek gibi fikirler, bugün için radikal görünse de, yarının hukukunda temel tartışma başlıkları olabilir. Ki, olmaya başlamıştır bile.
Tüm bu anlatımlarımdan sonra, Türkiye’de yasal düzeyde YZ’ye ilişkin düzenleme eksikliği sürerken, etik düzeyde bazı rehber dokümanlar da yayımlanmıştır. Millî Eğitim Bakanlığı Yenilik ve Eğitim Teknolojileri Genel Müdürlüğü (YEGİTEK) tarafından geçtiğimiz ay, Ekim 2025’te yayımlanan ‘Yapay Zekâ Etiği Tavsiyeleri’ belgesi, bu konuda atılmış ilk adımdır.
Belgede; insan onuru, şeffaflık, hesap verebilirlik, kişisel verilerin korunması ve ayrımcılığın önlenmesi gibi ilkeler vurgulanmakta, YZ’nin eğitim alanında etik kullanımına dair öneriler sunulmaktadır. Bu yaklaşım, Avrupa Birliği’nin AI Act’te yer alan insan merkezlilik, etik kullanım ve risk temelli yaklaşım ilkeleriyle “büyük ölçüde” örtüşmektedir. Dolayısıyla, bu belge Türkiye ölçeğinde AI Act’in normatif yapısının bir yansıması olarak değerlendirilebilir. Ancak, AI Act bir yasal düzenleme niteliği taşırken, MEB’in yayımladığı etik doküman bir ‘soft law’ örneğidir — yani bağlayıcı değil, yönlendirici niteliktedir.
Grok vakası da, bu farkın pratikte ne kadar kritik olduğunu göstermektedir. Etik ilkeler mevcut olsa bile, bağlayıcı ve yaptırıma kavuşturulmamış bir hukuki çerçeve olmadığında, YZ’nin yol açtığı zararların nasıl ele alınacağı hâlâ belirsizdir. Bu durum, kanımca Türkiye’nin gelecekte hem etik hem de hukuki boyutları birleştiren “bütüncül bir yapay zekâ politikası” geliştirmesi gerekliliğine işaret etmektedir. Bence, gelecekte etik ilkelerin hukuki düzenlemelerle desteklenmesi, yapay zekâ ekosisteminde dengeyi sağlayacak temel unsurlardan biri olacaktır.
Sonuç olarak; bu kadar anlattıktan sonra, hukuk ve yapay zekâ arasındaki ilişki, çatışmadan çok bir uyum arayışıdır. Ama bu uyum, hem insanı koruyacak hem de inovasyonu ve yatırımları boğmayacak bir denge gerektirmektedir.
Evet henüz Skynet gelmedi belki, ama hukuk dünyasının da “yapay zekâ devrimine ya da kıyametine” hazırlıklı olması gerekiyor. Bilim kurgu edebiyatında, kurgu olmayan bilimde ve düşünsel dünyada; yapay zekâ, bilinç, makineleşme ve etik sınırları çok önceden öngören büyük zihinleri anmadan geçmek olmaz.
Cahit Arf’tan Arthur C. Clarke’a, Fritz Lang, Philip K. Dick, Isaac Asimov, Carl Sagan, George Orwell, Aldous Huxley, James Cameron, Ridley Scott, Stanley Kubrick ve adını şu an hatırlayamadığım nice bilim insanı, filozof, fütürist yazar, senarist ve yönetmen…
Hepsine saygıyla.
Bu düşünsel miras, yalnızca kitaplarda ya da sinemada kalmadı; artık müzikte de yankılanıyor. Metal ve rock sahnesinde bazı gruplar, yapay zekânın insanın yerini alma ihtimalini, sibernetik distopyaları ve dijital bilinci notalara taşıyor. Avenged Sevenfold’un The Stage albümü insan–makine ikilemini anlatırken, Dope Stars Inc. “Neuromance” ile sibernetik bir geleceği betimliyor. Artificial Brain insanlığın makinelere teslimiyetini sert bir dille işliyor; Compressorhead ise işi ileri götürüp, müziği gerçekten robotlara çaldırıyor.
Görünen o ki, yapay zekâ artık sadece bir kavram değil, ritmi, sesi ve duygusu olan bir varlık haline geliyor. Vee bütün bu anlatıların ortasında, hukuk hâlâ insanın vicdanını korumaya çalışıyor. Ne tam gerisinde kalabiliyor teknolojinin, ne de önünde yürüyebiliyor; ama her adımda onunla birlikte, dengede kalmaya uğraşıyor. Ha bu arada, T-800 hepinize sevgilerini ve dahi saygılarını iletti.
“I’ll be back!“