YAPAY ZEKÂ VE VAROLUŞSAL RİSKLER

İzlem Gözükeleş Bilgisayar Mühendisleri Odası 7. Dönem Yönetim Kurulu Yazmanı [email protected]

Yapay zekânın (YZ) tarihi büyük umutlar ve hayal kırıklıklarıyla dolu. YZ baharı olarak adlandırılan dönemlerde teknolojik atılımlar nedeniyle yüksek beklentiler oluşuyor ve YZ’ye olan ilgi artıyor. YZ’nin potansiyeli hakkında yayılan abartılı söylemlerde YZ bazen dünyayı güzelleştirecek sihirli bir değnek bazen de insanlığın sonunu getirecek bir Frankenstein olarak karşımıza çıkıyor. Birbirine zıtmış gibi görünen bu iki söylem aslında önünde sonunda YZ mitini tekrar tekrar yeniden üretiyor. YZ hakkındaki beklentiler o kadar abartılıyor ki hayal kırıklığı neredeyse kaçınılmaz oluyor. YZ kışı olarak adlandırılan bu dönemlerde YZ’ye ilgi ve dolayısıyla yatırımlar azalıyor.

İşte 30 Kasım 2022’de OpenAI ChatGPT’yi çıkarana kadar yine bir YZ kışı ile karşı karşıya olup olmadığımız konuşuluyordu. Son on yılda, yüz tanıma, çeviri, tıbbi görüntülerin analizi, sürücüsüz arabalar vb alanlarda kayda değer gelişmeler yaşanmıştı. Ama elimizde hâlâ yapay dar zekâ olarak adlandırılan, sadece belirli işleri yapmak üzere eğitilmiş, onun dışındaki işleri yapamayan sistemler vardı. Satranç oynamak için eğitilen bir sistem, sadece satrancı iyi oynayabiliyordu. Veri miktarı ve hesaplama gücünün artması birçok durumda derin öğrenmeye dayalı sistemlerin potansiyelini artırıyordu. Veri ve hesaplama gücü ne kadar artarsa artsın derin öğrenme sistemleri azalan getiriler (diminishing returns) ilkesine göre çalışıyordu. Ne daha fazla veri, yapay genel zekânın gelişini hızlandırıyordu ne de insanlığı yapay genel zekâya yaklaştırabilecek başka bir teknoloji vardı. Yine de şirketler ve medya, özellikle kıyamet hikayeleri ile, yapay genel zekânın eli kulağında olduğu düşüncesini sürekli canlı tutmaya çalıştı.

Fakat ChatGPT ile YZ üzerindeki kara bulutlar dağıldı. ChatGPT, GPT (Generative Pre-trained Transformer – Üretken Ön İşlemeli Dönüştürücü) teknolojisine dayanıyordu. İlk olarak 11 Haziran 2018’de yayımlanan “Üretken Ön Eğitimle Dil Anlayışını Geliştirme” başlıklı makalede

tanıtılan GPT teknolojisi, parametre sayısı ve veri miktarındaki artışla kısa sürede büyük bir ilerleme kaydetmişti (https://en.wikipedia.org/wiki/Generative_pre-trained_transformer).

14 Mart 2023’te, GPT-4’ün sahneye çıkması; ChatGPT ve daha sonra onu takip eden diğer üretken YZ’lerin insanlarla akıcı bir şekilde sohbet edebilmesi ve daha önce sadece insanlar tarafından yapılan bazı entelektüel etkinlikleri (şiir ve hikaye yazmak, beste yapmak, resim yapmak gibi) gerçekleştirebilmesi oldukça etkileyiciydi. Bu gelişmeler akıllara, “acaba yapay genel zekâya yaklaşıyor muyuz?” sorusunu getirdi.

FLI (Yaşamın Geleceği Enstitüsü – Future of Life Institute), 22 Mart 2023’te “Dev Yapay Zeka Deneylerini Duraklatın” başlıklı bir açık mektup yayımladı. İmzacılar arasında Yoshua Bengio, Stuart Russell, Gary Marcus gibi YZ dünyasının önemli isimlerinin yanında Elon Musk, Steve Wozniak, Yuval Noah Harari, Daron Acemoğlu gibi ünlü isimler de vardı. Mektupta YZ sistemlerinin artık genel görevlerde insanlarla rekabet edebilir hale geldiğine dikkat çekiliyor ve şu sorular soruluyordu:

•Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz?

•Tatmin edici olanlar da dahil, tüm işleri otomatikleştirmeli miyiz?

•Eninde sonunda bizi geçebilecek ve yerimizi alabilecek zihinler geliştirmeli miyiz?

•Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?

Açık mektupta, bu gibi kararların seçilmemiş teknoloji liderlerine bırakılamayacağı belirtiliyordu. Güçlü YZ sistemlerinin geliştirilmesine devam etmeden önce risklerin yönetilebilirliğinin sağlanmasına dikkat çekiliyordu (https://futureoflife.org/ open-letter/pause-giant-ai-experiments/).

30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zeka Güvenliği Merkezi) web sitesinde dünyanın önde gelen YZ araştırmacılarının yanında başka disiplinlerden akademisyenlerin ve Microsoft, Google, OpenAI gibi şirketlerinin yöneticilerinin imzaladığı kısa bir bildiri yayımlandı. Bir tartışma başlatmayı hedefleyen bildiride şöyle yazıyordu (https://www.safe.ai/statement-on-ai-risk): “Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.”

FLI’nın açıklaması, CAIS’inkine göre daha makul sorunlara değiniyordu. CAIS ise YZ hakkındaki korkuları, YZ mitini tekrar canlandıran bir açıklama yapmıştı. Aslında YZ hakkındaki abartılı iddialar, ister umut ister korku taşısın, YZ’nin müthiş bir güç olduğu hakkındaki düşünceleri güçlendiriyor. “Teknolojinin hızına yetişemiyorum”, “acaba geride mi kaldım?”, “ileride işsiz kalmamak için ne yapmalıyım” vb korkular bireyleri etkilediği kadar şirketleri, kurumları ve devletleri de etkiliyor ve bunun sonucunda teknoloji yatırımları artıyor.

Fakat YZ’nin geleceği hakkında hâlâ soru işaretleri var ve YZ yatırımlarının geri dönüşünün olup olmayacağı sorusu bir süredir yeniden tartışılıyor. Örneğin yatırım devi Goldman Sachs, 25 Haziran 2024’te yayımladığı araştırma makalesinde üretken YZ için yapılan büyük harcamaların karşılığını verip veremeyeceği konusunu masaya yatırdı (https://www.goldmansachs.com/images/migrated/ insights/pages/gs-research/gen-ai--too-much-spend%2C-too-little-benefit-/TOM_AI%20 2.0_ForRedaction.pdf). Hisse senetleri tüm bu abartılara (hype) ve yatırımlara bağlı olarak hızla yükseliyor. Buna rağmen, üretken YZ hakkındaki soru işaretleri de artıyor. Raporda, üretken YZ’nin güvenilmezliğine vurgu yapılıyor. Rapora katkı sunan iktisatçılardan biri olan Daron Acemoğlu eğitim verisini artırmanın üretken YZ’lere katkısına kuşkuyla yaklaşıyor. Goldman Sachs’ın küresel sermaye araştırması başkanı Jim Covello belirttiği gibi üretken YZ’nin gerçek dünya uygulamalarının

çok az olduğu sanal gerçeklik, metaverse, blokzinciri gibi bir teknoloji olup olmayacağını göreceğiz.

Microsoft / Crowdstrike Krizi

Üretken YZ, bizi yapay genel zekâya götürmeyecek. Nasıl bir değişim yaratacağı ise henüz belirsiz. YZ, potansiyel olarak ekonomiler için önemli faydalar ve şirketler için getiriler sağlayabilir. Fakat üretken YZ, sermayenin beklentilerini karşılayamadığında yatırımlar azalacak ve geçmiş yıllarda olduğu gibi bir YZ kışı kaçınılmaz olacak. Daha da önemlisi çip ve güç gibi temel girdilerdeki eksiklikler, YZ’nin vaatlerinin yerine getirebilmesinin önünde hâlâ ciddi bir engel.

Her şeye karşın YZ hayatımızda olmaya devam edecek ve gündelik hayatın içinde sıradanlaşacak. Ancak bizim için asıl sorun tam da burada başlıyor. Bilişim teknolojileri, gündelik hayatın giderek daha geniş bir alanını etkiliyorlar. Eğitimden sağlığa, altyapı hizmetlerinden sosyal ilişkilere kadar bilişim teknolojilerinin gündelik hayattaki yeri giderek genişliyor. Diğer yandan, bilişim teknolojilerinin hayatımızdaki etkileri derinleşiyor ve ileri teknolojilere bağımlılığımız artıyor.

Ayrıca bulut bilişimin, bilişim teknolojileriyle ilişkimizi farklılaştırdığını ve daha dolaylı hale getirdiğini de atlamamak gerekiyor. SaaS (Software as a service – Hizmet olarak Yazılım), son yılların en önemli iş modellerinden biri haline geldi. Özel mülkiyetli yazılım satan şirketler, “İnternet üzerinden bulut tabanlı uygulamalara erişim ve kullanım olanağı sağlayan, merkezi olarak barındırılan, aboneliğe bağlı bir lisanslama ve dağıtım modeli”ne (https://tr.wikipedia.org/ wiki/Hizmet_olarak_yaz%C4%B1l%C4%B1m) yöneldiler. Kullanıcılar, bilgisayarlarını yeni bir program kurmadan (kimi zaman verilerini kendi bilgisayarlarında tutmadan) buluttaki yazılımları kullanmaya başladılar. Böylece şirketler, kullanıcıların yazılımla ilişkisini daha iyi kontrol edebiliyorlar ve haklarını daha çok sınırlandırabiliyorlar. Benzer bir iş modeli, YZ için de yaygınlaşıyor.

Ancak Özgür Yazılımın kurucusu Richard Stallman’ın da yıllar önce savunduğu gibi İnternet’te, bilgisayar özgürlüğünüzü kaybetmenin tek yolu özel mülkiyetli yazılımlar değil. Hizmet olarak yazılım da başka birine bilgisayarınız üzerinde güç vermenin bir başka yolu (https://www.gnu. org/philosophy/who-does-that-server-really-serve.en.html). 19 Temmuz 2024’te yaşamın birçok alanını etkileyen Microsoft/Crowdstrike krizi, hizmet olarak yazılım ve hizmet olarak YZ nedeniyle karşı karşıya kalabileceğimiz sorunlar hakkında önemli bir uyarıydı. Kriz, bilgisayar güvenliği hizmeti veren bir “endpoint protection” (uç nokta koruma) firması olan CrowdStrike’ın gönderdiği bir güncelleme ile başladı. CrowdStrike’ın güncellemesi sonucunda Microsoft Windows işletim sistemli bilgisayarlar çöktü ve bilgisayarların düzgün bir şekilde açılmasını engelleyen, Mavi Ölüm Ekranı olarak adlandırılan bir döngünün içine hapsoldular. Sağlık, eğitim, havacılık, bankacılık gibi çok farklı sektörlerde, milyonlarca bilgisayarı etkiledi; ameliyatlar ertelendi, uçaklar uçmadı, bankacılık işlemleri aksadı...

Microsoft’un kurumsal ve işletim sistemi güvenliğinden sorumlu Başkan Yardımcısı olan David Weston ağ günlüğünde (blog) CrowdStrike güncellemesinin 8.5 milyon Windows cihazını etkilediğini ve bunun da tüm Windows makinelerin yüzde 1’inden daha az olduğuna dikkat çekti. Yüzde küçük olmasına karşın birçok kritik hizmeti çalıştıran kuruluşun CrowdStrike kullanması sorunun ekonomik ve toplumsal etkilerini artırmıştı. Weston, bunun bir Microsoft olayı olmadığını vurguluyordu. Weston’a göre yazılım güncellemeleri kesintilere neden olsa da 19 Temmuz’da yaşananlar gibi olaylar “nadir”di. Bu nadir olay, geniş ekosistemlerin (küresel bulut sağlayıcıları, yazılım platformları, güvenlik satıcıları, diğer yazılım satıcıları ve müşteriler) birbirine bağlı doğasını ortaya koyuyordu (https://www.techtarget.com/ searchsecurity/news/366596532/Microsoft-Faulty-CrowdStrike-update-affected-85M-devices).

CrowdStrike, hatasını kabul etti ve yaşanan ciddi

aksaklıklar nedeniyle etkilenen kuruluşlardan özür diledi. Fakat bu olaydan bir ay önce CrowdStrike’ın Başkan Yardımcısı Drew Bagley, kuruluşların tüm bilişim teknolojileri sistemlerini tek bir satıcıya teslim etmelerinin risklerine değinmişti. İşletim sistemi, bulut, üretkenlik, e-posta, sohbet, işbirliği, video konferans, tarayıcı, kimlik, üretken YZ ve giderek artan güvenlik için yalnızca tek bir sağlayıcıya bağımlı olmak ciddi riskler içeriyordu. Bagley’e göre bu, inşaat malzemelerinin, tedarik zincirinin ve hatta inşaat denetçisinin bile aynı olması anlamına geliyordu.

İnsanlık için gerçekten de varoluşsal bir risk var. Fakat bu risk YZ’nin kendisinden değil (Microsoft/CrowdStrike krizinin de gösterdiği gibi) YZ’nin arkasındaki üretim ilişkilerinden kaynaklanıyor. Bu bağlamda, son yıllardaki üç gelişmeye dikkat etmek gerekiyor.

1. Bulut İmparatorluklarının Yükselişi

PCWorld’de 31 Aralık 2008’de yayımlanan bir makalede tüm zamanların en kötü yedi teknoloji tahmini listelenmişti (https://www.pcworld.com/ article/532605/worst_tech_predictions.html). Listenin başında IBM’in kurucusu Thomas J. Watson’ın 1943 yılındaki tahmini yer alıyordu: “Bence dünyada belki beş bilgisayarlık bir pazar var.” Kişisel bilgisayarların çıkışı Watson’un tahminlerini alt üst etti. Dizüstü bilgisayarlar, tablet ve akıllı telefonlar derken dünya bilgisayarla doldu. Ama Watson’un tahmini yıllar sonra doğru çıktı!

Bilgisayarlarımızın (tablet, akıllı telefon, TV gibi İnternet’e bağlı tüm cihazlar) dünyadaki birkaç bulut bilişim platformuna bağımlılığı giderek artıyor. Telefonlarımızın birçok özelliği ancak İnternet’e bağlı olduğumuzda etkin oluyor. Sosyal medya platformlarına giriyor, anlık mesajlaşma uygulamalarını kullanıyor, müzik dinliyor, film izliyor, yol tarifi alıyor, bankacılık işlemlerini yapıyor, alışveriş yapıyoruz ve fotoğraflarımızı yedekliyoruz. Televizyonlarımız, medya platformlarına bağlı. Bilgisayarlarımıza kurduğumuz yazılımların sayısı azaldı. Şirketlerin yazılımlarına

abone oluyoruz. Daha da önemlisi bireylerden çok kuruluşların platformlara bağımlılığı artıyor. Gerçekte akıllı olan (yüksek işlemci hızlarına ve bellek kapasitelerine sahip olmalarına rağmen!) telefonlarımız değil, YZ modellerini oluşturan, eğiten ve YZ hizmeti sunan dev bilgisayarlar. Bilgisayarlarımızın artık başka bilgisayarlara bağımlı olması bir risk. Ama bu başka bilgisayarların aslında sadece birkaç büyük şirketin elinde toplanmış olması daha büyük bir risk. Bu nedenle, ana bilgisayarlardaki güncellemeler veya teknik sorunlar, bulut platformlarına yapılan saldırılar veya bulut platformlarındaki güç kesintileri küresel krizlere neden olabiliyor.

Son yıllarda YZ altyapılarının ve hizmetlerinin geliştirilmesinde üç büyük teknoloji şirketi öne çıkıyor: Amazon, Microsoft ve Google. Bu şirketlerin gücü üç etkene dayanıyor. İlk olarak, YZ gelişiminin anahtarı olan büyük miktarda değerli veriye sahipler ve veri birikiminin sürekliliğini sağlayabiliyorlar. İkincisi, bu şirketler, yüksek vasıflı YZ araştırmacılarını istihdam etmek ve onları elde tutmak için çok fazla finansal kaynağa sahipler. Üçüncüsü, hesaplama işlemleri için GPU’lar (Grafik İşlem Birimleri) gibi pahalı, ileri teknolojilere sahipler. Kısaca bu üç Büyük Teknoloji şirketi; veri, YZ uzmanlığı ve bilgi işlem altyapıları üzerindeki artan ekonomik ve siyasi güçleri ile YZ teknolojilerinin geliştirilmesinde, YZ hakkındaki küresel anlatının şekillendirilmesinde ve YZ’nin

yönelimlerinin belirlenmesinde merkezi bir rol oynuyorlar.

2. Yapay Zekânın Endüstrileşmesi

On beş yıl önce, Microsoft’un bir işletim sistemi üreticisi, Google’ın bir arama motoru ve Amazon’un da bir alışveriş sitesi olduğunu söyleyebilirdik. Oysa bu üç şirket günümüzde çok çeşitli hizmetler sunuyor ve aslında İnternet’teyken çoğu zaman doğrudan veya dolaylı olarak (örneğin AWS’nin bazı müşterileri için bkz. https://spacelift.io/blog/who-is-using-aws ) bu şirketlerin bulut platformlarına bağlanıyoruz. AWS (Amazon), Azure (Microsoft) ve GCP (Google), YZ’nin endüstrileşmesi sürecinin temel omurgasını oluşturuyor. Günümüzde İnternet’in kalbinin attığı bu üç platform, farklı sektörlerdeki işletmeler üzerinde derin bir etkiye sahipler. Pazar araştırması tahminlerine göre AWS’yi İnternet’in birincil işletim sistemi olarak değerlendirebiliriz. Dünyadaki tüm bulut hizmetlerinin üçte biri AWS (yüzde 32) üzerinde çalışıyor. Onu Microsoft Azure (yüzde 22) ve Google Cloud (yüzde 11) takip ediyor (Luitse, 2024).

Fakat YZ’deki gelişmelerle beraber büyük teknoloji şirketleri son yıllarda daha iddialı adımlar atıyorlar. Üçüncü taraf geliştiricileri ve işletmeleri çekmeyi amaçlayan, sektör odaklı çözümler ve pazar yerleri geliştirerek daha geniş bir YZ ekosisteminin gelişmesini teşvik ediyorlar. Örneğin

sağlık sektörü her üç platformun da yer aldığı bir sektör. GCP, tıbbi teşhis ve veri analizine yönelik YZ çözümlerini kolaylaştırmak için “Cloud Healthcare API”, “Medical Imaging Suite” ve “Healthcare Natural Language AI” gibi sağlık hizmeti odaklı ürünler sunuyor. Azure’un sağlık hizmetleri “Health Data Services” ve “Azure Data Lake Storage”. Bunların yanında YZ destekli bir sağlık botu hizmeti de var. AWS, yapay öğrenme modellerini kullanarak tıbbi ve sigorta verilerini dönüştürmek için “AWS Health”, “HealthLake” hizmetlerini sağlıyor.

Perakende sektörü, Amazon’un uzmanlık alanı olmasına karşın diğer iki bulut şirketinin de perakende sektörünü hedefleyen çözümleri var. Örneğin, Google perakende sektöründe, “Discovery AI for Retail” ve “Recommendations AI” gibi çözümlerle dönüşüm oranlarını iyileştirmeyi ve kişiselleştirilmiş ürün önerileri sunmayı amaçlıyor. Müşteri etkileşimi ve iletişim merkezleri için AWS’nin “Amazon Connect” ve GCP’nin “Contact Center AI” hizmetleri var. Veri yönetimi ve analizi için “BigQuery”, “Amazon DocumentDB” ve “Azure Synapse Analytics” kullanılabiliyor.

Van der Vlist vd.’nin (2024) “YZ’nin Endüstrileşmesi” olarak adlandırdığı bu süreç, büyük teknoloji şirketlerinin daha gelişmiş ve kapsamlı YZ hizmetleri sağlamasıyla şekilleniyor. Şirketler, söz konusu hizmetleri sağlarken YZ için kritik bir altyapı hizmet sağlayıcısı haline geliyorlar.

3. Yeni YZ Girişimlerinin Bulut Bilişim Platformlarına Bağımlılığı

Microsoft’un OpenAI’ye yaptığı yatırımlar sadece nakit değildi. Paranın bir kısmı işlem gücü için bulut kredisiydi. 2019’dan beri OpenAI modelleri, Microsoft’un Azure platformunda eğitiliyor ve çalıştırılıyor. Mevcut YZ; veri, kod ve hesaplamanın bir araya getirilmesinin bir sonucudur. Bu üç parçadan biri eksikse YZ projelerinin hayata geçirilmesi olanaksızdır.

Veri ve özellikle hesaplama gücü üç şirketin önemli bir avantajı. Ayrıca söz konusu şirketler, bulutlarında YZ alanına özgü uygulamaların geliştirilmesine yardımcı olan ve giderek büyüyen YZ hizmeti setleri sunuyorlar. Bu hizmetler, YZ’nin benimsenmesini daha hızlı ve kolay hale getirirken yeni girişimlerin hareket alanını kısıtlıyor ve bir bulut platformuna bağımlılıklarını artırıyor. Bir zamanlar, IBM gibi bilgisayar üreticilerinin yeni yazılımları teşvik ederek bilgisayarlarını daha işlevsel hale getirmesi gibi bulut platformları

da platformları üzerinde uygulama geliştirmeyi teşvik ederek platformların değerini artırıyorlar. Bunun yanında yeni uygulamalar, platformları veri gücünü nicelik ve nitelik yönünden artırarak bulut devlerinin konumunu güçlendiriyor.

Platformlar, kendi modellerini eğitemeyen ya da eğitmeyi tercih etmeyen kuruluşlar için YZ algoritmalarını eğitmek üzere önceden yapılandırılmış sanal makine şablonları da sunuyor. Microsoft, OpenAI’nin hesaplama ihtiyaçlarından yola çıkarak YZ sistemleri için standart bir çözüm geliştirmeye çalıştı. Şimdi bu çözüm, sohbet robotlarını ve diğer özel YZ çözümlerini eğitmek ve kullanmak için bir hizmet olarak diğer müşterilere sunuluyor.

Yeni YZ firmaları için bulut platformları özellikle ekonomik belirsizlikler karşısında bir esneklik sağlıyor. Ayrıca bir veri merkezine yatırım yapmak için harcanabilir fonlara ve kendi özel çözümlerini çalıştırmak için gereken daha genel bileşenlerin bakımını ve kodlamasını yapacak çalışanlara sahip değiller. Dolayısıyla bulut platformlarının bilgi işlemin farklı unsurlarını bir hizmet olarak sunarak yeni girişimlerin önündeki engelleri azalttığını söyleyebiliriz. Diğer yandan yeni girişimler için tam bir bağımlılık ilişkisi söz konusu ve çıkış yolları bulunmuyor.

***

Bilişim teknolojilerinin hayatımızdaki yeri genişliyor ve YZ’nin endüstrileşmesi ile beraber hayatımıza etkileri her geçen gün daha da derinleşiyor. Bu nedenle, insanlığın karşısındaki varoluşsal tehdit, robotların dünyayı ele geçirmesi ve insanları işsiz bırakması olmayacak. Büyük teknoloji şirketlerinin inisiyatifinde şekillenen, endüstrileşen ve bağımlılık ilişkilerini artıran YZ, insanlık için çok daha somut bir tehdit olarak karşımızda duruyor.

Kaynaklar

Luitse, D. (2024). Platform power in AI: The evolution of cloud infrastructures in the political economy of artificial intelligence. Internet Policy Review, 13(2), 1-44.

Van der Vlist, F., Helmond, A., & Ferrari, F. (2024). Big AI: Cloud infrastructure dependence and the industrialisation of artificial intelligence. Big Data & Society, 11(1), 20539517241232630.