TUGAY TOYDEMİR / KONUK YAZAR

Mesele yapay zekâyı sınırlamak değil, insanın karar verme özgürlüğünü korumaktır

İnsanlık tarihinde bazı teknolojiler yalnızca hayatımızı kolaylaştırmadı; düşünme, çalışma, üretme ve karar verme biçimimizi değiştirdi. Matbaa, elektrik, telefon, internet ve arama motorlarından sonra bugün çok daha büyük bir dönüşümün içerisindeyiz: yapay zekâ.

Yapay zekâ artık yalnızca sorularımıza cevap veren gelişmiş bir arama motoru değildir. Verileri analiz ediyor, farklı bilgileri ilişkilendiriyor, alternatifleri karşılaştırıyor, konuşmanın bağlamını takip ediyor ve kimi zaman bizim açıkça sormadığımız fakat konu açısından önemli olan noktaları da önümüze getiriyor.

Arama motoru önümüze kapıları koyuyordu. Yapay zekâ ise hangi kapıdan geçmemiz gerektiğini de söylemeye başlıyor.

İşte tam bu noktada teknoloji meselesi, aynı zamanda bir insan özgürlüğü ve tüketici hakkı meselesine dönüşüyor.

YAPAY ZEKÂ İNSANIN YERİNE DEĞİL, İNSANLA BERABER DÜŞÜNMELİDİR

Yapay zekânın gerçek değeri insanın yerine geçmesinde değil, insanın düşünme ve karar verme kapasitesini güçlendirmesindedir.

Doktora teşhis sürecinde, avukata mevzuat araştırmasında, öğrenciye eğitiminde, yöneticiye veri analizinde yardımcı olabilir. Bir tüketici için yüzlerce ürün ve hizmeti karşılaştırabilir; bir gezgin için bütçesine ve beklentilerine uygun destinasyon, uçuş, otel ve restoran alternatifleri oluşturabilir.

Bunlar korkulması değil, doğru kullanıldığı takdirde teşvik edilmesi gereken gelişmelerdir. Ancak temel ilke değişmemelidir: Yapay zekâ analiz eder, insan karar verir.

Çünkü karar hakkını insandan aldığımız anda mesele artık teknolojik kolaylık olmaktan çıkar.

PEKİ TAVSİYEYİ KİM BELİRLEYECEK?

Bir tüketici yapay zekâya “Eşimle beş günlük bir tatil yapmak istiyorum. Bütçem 2.000 Euro. Bana en uygun oteli öner.” dediğinde sistem onlarca alternatifi analiz edebilir.

Ancak gelecekte kendimize şu soruyu sormak zorunda kalabiliriz: Bu otel gerçekten benim için en uygun olduğu için mi karşıma çıktı, yoksa birileri görünürlüğünü satın aldığı için mi?

Sorun reklam değildir. Reklam ticaret hayatının doğal bir parçasıdır. Sorun, reklamın bağımsız tavsiye kılığına girmesidir.

Tüketici reklam gördüğünü biliyorsa değerlendirmesini buna göre yapar. Ancak objektif bir analiz aldığını düşünürken ticari ilişkiler tarafından şekillendirilmiş bir sonuca yönlendiriliyorsa artık reklamdan değil, karar mekanizmasının manipülasyonundan söz ederiz.

Bu nedenle geleceğin temel tüketici haklarından biri şimdiden tanımlanmalıdır: Algoritmik tavsiyenin arkasındaki ticari ilişkiyi bilme hakkı.

Sponsorlu sonuç sponsorlu olduğunu söylemelidir. Ticari ilişki tavsiyeyi etkiliyorsa tüketici bunu bilmelidir. İnsan mümkün olduğunca sponsor etkisinden bağımsız sonuç talep edebilmelidir.

YEL DEĞİRMENLERİ KURULMADAN ÖNCE

Burada Cervantes'in Don Kişot'u bize düşündürücü bir metafor sunuyor. Don Kişot yel değirmenleriyle savaşmaya başladığında değirmenler çoktan oradadır.

Bizim yapmamız gereken ise yel değirmenleri kurulduktan sonra onlarla savaşmak değil, kurulmadan önce nerede, nasıl ve hangi ölçekte kurulacaklarını tartışmaktır.

Çünkü en faydalı teknoloji bile nerede, nasıl ve hangi amaçla kullanılacağı düşünülmeden büyüdüğünde istenmeyen sonuçlar yaratabilir. Yapay zekâ konusunda da mesele budur.

Milyarlarca insanın kararlarını etkileyebilecek sistemler kurulduktan, ekonomik modeller yerleştikten, devasa sermaye yapıları oluştuktan ve tüketici alışkanlıkları bunlara bağımlı hale geldikten sonra getirilecek düzenlemeler çok daha zor ve çok daha az etkili olacaktır.

Zamanı geçtikten sonra vereceğimiz mücadele, Don Kişot'un yel değirmenlerine saldırmasından farklı olmayabilir.

Bu nedenle hukuk teknolojinin peşinden koşmamalı; teknolojinin nereye gittiğini görerek önünden yürümelidir.

GELECEĞİN EN DEĞERLİ ÜRÜNÜ İNSANIN KARARI OLABİLİR

Bugün dijital ekonomi insanların dikkatini satın almak üzerine kuruludur. Yarın bundan daha değerli bir şey satın alınmak istenebilir: insanların kararları.

Hangi otelde kalacağımızı, hangi ürünü alacağımızı, hangi hastaneyi tercih edeceğimizi, hangi sigortayı yaptıracağımızı, hangi haberi okuyacağımızı veya hangi yatırım alternatifini değerlendireceğimizi yapay zekâya danışıyorsak, bu sistemlerin yönlendirme gücü olağanüstü bir ekonomik değere dönüşecektir.

İşte bu nedenle yapay zekâ yalnızca teknoloji mevzuatının konusu değildir. Aynı zamanda rekabet hukukunun, tüketici hukukunun ve insanın tercih özgürlüğünün konusudur.

Bir sermaye grubunun parasını kullanarak yapay zekânın tavsiyesini satın alabilmesi, geleceğin en tehlikeli piyasa bozucu mekanizmalarından biri olabilir.

Parayı veren reklam satın alabilir; insanın kararını satın alamamalıdır.

YAPAY ZEKÂ İÇİN DEĞİL, İNSAN İÇİN KANUN

İhtiyacımız olan şey yapay zekâyı yasaklayan veya inovasyonu boğan bir mevzuat değildir. Tam tersine, yapay zekânın insanlığa sağlayabileceği muazzam faydayı koruyacak bir hukuk düzenidir.

DMA'nın dijital piyasalardaki güç yoğunlaşmasına karşı getirdiği yaklaşım gibi, yapay zekâ çağının da kendine özgü tüketici ve rekabet kurallarına ihtiyacı vardır.

Reklam ile bağımsız tavsiye açık biçimde ayrılmalı; sponsorluk gizlenmemeli; algoritmik yönlendirmelerin arkasındaki ticari çıkarlar şeffaf olmalı; büyük platformların kendi ürünlerini veya ödeme yapan şirketleri sistematik olarak avantajlı hale getirmesi denetlenmeli; özellikle sağlık, finans, hukuk ve eğitim gibi kritik alanlarda insanın menfaati ticari çıkarın önünde tutulmalıdır.

Fakat bütün bunların üzerinde tek bir ilke bulunmalıdır: Nihai karar insana aittir.

Karar makineye ait değildir. Algoritmaya ait değildir. Platforma ait değildir. Ve kesinlikle parasını vererek yönlendirmeyi satın almak isteyen sermayeye ait değildir.

Yapay zekâ araştırmalı, karşılaştırmalı, analiz etmeli, uyarmalı ve alternatifler sunmalıdır. Ama insan adına düşünmenin son aşaması olan irade ve tercih hakkı insanda kalmalıdır.

KANUN KOYUCUNUN UYUMA LÜKSÜ YOK

Dijital dünyanın geçmişinde büyük bir hata yaptık. Önce dev platformların oluşmasına izin verdik, ekonomik ve toplumsal güçleri devasa boyutlara ulaştı; ardından onları nasıl düzenleyeceğimizi tartışmaya başladık.

Yapay zekâ konusunda aynı hatayı tekrarlamamalıyız. Çünkü bu defa söz konusu olan yalnızca hangi internet sitesinin üst sırada görüneceği değildir. Söz konusu olan insanın ne düşüneceği, neyi tercih edeceği ve hangi kararı vereceğidir.

Yapay zekâyı korkuyla karşılamamalıyız. Onu geliştirmeli, kullanmalı ve insanlığın hizmetine sunmalıyız. Ama sınırlarını da teknoloji şirketleri veya sermaye grupları tek başlarına belirlememelidir.

Çünkü mesele yapay zekânın ne kadar akıllı olacağı değildir. Mesele o zekânın kimin çıkarına çalışacağıdır.

İnsanlığın mı? Tüketicinin mi? Yoksa yönlendirmeyi satın alabilecek kadar güçlü olanın mı?

Bu sorunun cevabını teknoloji şirketlerine bırakamayız. Cevabı toplum adına hukuk vermelidir. Ve bunu yel değirmenleri kurulduktan sonra değil, kurulmadan önce yapmak zorundayız.

Çünkü yapay zekâ uyumuyor. Sermaye uyumuyor. Algoritmalar öğrenmeye devam ediyor. O halde kanun koyucunun uyuma lüksü hiç yok.

Korunması gereken yapay zekâ değildir. Korunması gereken, insanın kendi kararlarını özgürce verebilme hakkıdır.