Yapay zeka endüstrisinin önde gelen isimleri bile, geliştirdikleri teknolojinin potansiyel etkileri konusunda derin endişe ve korku içinde olduklarını itiraf ediyorlar.Detaylar haberimizde…
Belki de birçok kişinin işsizliğe, hatta tüm insanlığa yol açacağından korktuğu yapay zekâ teknolojisini yaratmaktan sorumlular; ancak en azından onlar da bizim gibi bu işin nereye gittiği konusunda paranoyak ve mutsuz hissediyorlar.
Bu yıl San Diego Kongre Merkezi’nde düzenlenen büyük yapay zekâ araştırma konferanslarından biri olan NeurIPS‘te, yapay zekânın felaket senaryoları birçok bilim insanının aklındaydı. Ama gerçekten yapay zekânın riskleriyle mi yüzleşiyorlar, yoksa bilim kurgu romanlarında okudukları senaryoları hayal etmekle mi meşguller? Bu soru, NeurIPS’e katılan ve birçok kişinin yapay zekânın riskleri, özellikle de varsayımsal bir yapay genel zekânın yaratılmasıyla ilgili riskler hakkında büyük laflar ettiğini, ancak teknolojinin sıradan dezavantajlarını göz ardı ettiğini tespit eden Alex Reisner’ın The Atlantic için yazdığı yeni bir yazıda ele alınıyor.
Yapay Zekanın Potansiyelinden Korkuyorlar
Reisner, “Birçok yapay zeka geliştiricisi teknolojinin en somut sorunları üzerinde düşünürken, yapay zeka hakkındaki kamuoyu tartışmaları –en önde gelen geliştiriciler de dahil olmak üzere– hayali sorunlar tarafından domine ediliyor.” diye yazdı.
Bunun suçlusu olan araştırmacılardan biri de Montreal Üniversitesi araştırmacısı Yoshua Bengio. Bengio, yapay zekanın üç “babasından” biri olarak kabul ediliyor ve çalışmaları, sektörün yorulmak bilmeyen yükselişini tetikleyen büyük dil modellerinin yaratılmasında temel teşkil etti. Bengio, son birkaç yıldır yapay zeka güvenliği konusunda alarm veriyor ve yakın zamanda teknolojinin güvenli gelişimini teşvik etmek için LawZero adlı kar amacı gütmeyen bir kuruluş kurdu.
Reisner, “Bengio, olası distopik bir gelecekte yapay zekaların yaratıcılarını aldatabileceğinden ve ‘çok güçlü yapay zekalara sahip olanların bunu kamuoyunu etkileme açısından siyasi avantaj için kötüye kullanabileceğinden’ korku duyuyordu.” diye hatırlattı.
Ancak Reisner, bu önemli ismin “sahte videoların kamuoyunu nasıl etkilediğinden bahsetmediğini” gözlemledi. “Ne de gelişmekte olan chatbot kaynaklı ruh sağlığı krizine veya sanat ve beşeri bilimlerin yağmalanmasına anlamlı bir şekilde değindi. Ona göre, felaket niteliğindeki zararlar ‘üç ila on veya yirmi yıl’ uzakta.”
Bu kopukluğu gözlemleyen tek kişi Reisner değildi. “Yapay Zeka Hakkında Yanlış Kabuslar mı Görüyoruz?” başlıklı açılış konuşmasında sosyolog Zeynep Tufekci, araştırmacıların, yaratılmasının mümkün olup olmayacağını bile bilmediğimiz ve üzerinde anlaşılmış bir tanımı olmayan bir teknoloji olan yapay genel zekanın (AGI) yarattığı risklere çok fazla odaklanarak asıl meseleyi kaçırdıkları konusunda uyardı. İzleyicilerden birinin Tufekci’nin dile getirdiği chatbot bağımlılığı gibi acil risklerin zaten bilindiğini söylemesi üzerine Tufekci, “Bu tartışmaları gerçekten görmüyorum. İnsanların kitlesel işsizlik ile insanlığın yok oluşu arasında tartıştığını görüyorum.” diye yanıt verdi.
Bu oldukça iddialı bir nokta. Yapay zeka güvenliğiyle ilgili söylemler genellikle kıyamet senaryolarıyla dolu; bu senaryolar, yapay zekayı geliştiren milyarderler tarafından bile savunuluyor. OpenAI CEO’su Sam Altman, yapay zekanın tüm iş kategorilerini ortadan kaldıracağını, yaygın kimlik sahtekarlığı krizine yol açacağını öngörüyor ve bir yapay zeka sisteminin ölümcül bir virüs yayarak insanlığa karşı misilleme yapması ihtimaline karşı kıyamet senaryolarına hazırlık yaptığını itiraf ediyor.
Bengio, pişmanlıkla boğuşan tek yapay zeka “babası” değil. 2018’de Bengio ve eski Meta baş yapay zeka bilimcisi Yann LeCun ile birlikte Turing Ödülü’nü alan İngiliz bilgisayar bilimcisi Geoffrey Hinton, kendisini bu alanda Oppenheimer benzeri bir figür olarak konumlandırdı. 2023’te Google’daki görevinden ayrıldıktan sonra hayatının eserinden pişmanlık duyduğunu söylemişti ve yakın zamanda senatör Bernie Sanders ile yaptığı bir görüşmede, iş kayıpları ve militarize yapay zeka sistemlerinin imparatorluğu genişletmesi de dahil olmak üzere teknolojinin sayısız riskine uzun uzun değinmişti.
Reisner ironik bir gözlemde bulundu: Sinirsel Bilgi İşleme Sistemleri”nin kısaltması olan NeurIPS adının, bilim insanlarının beynimizin nöronlarının karmaşıklığını büyük ölçüde hafife aldıkları ve bunları bilgisayarların yaptığı işlemeyle karşılaştırdıkları bir döneme geri döndüğünü belirtti.
“Ne olursa olsun, yapay zeka kültürünün temel bir özelliği, bilgisayarın bir zihin olduğu fikrine olan takıntıdır. Anthropic ve OpenAI, sohbet botlarının sırasıyla ‘sadakatsiz’ ve ‘dürüst olmayan’ olduklarına dair ifadeler içeren raporlar yayınladılar. Yapay zeka söyleminde bilim kurgu çoğu zaman bilimi alt ediyor ve bu korkutucu.” diye yazdı.
Derleyen: Damla Şayan