Üretken Yapay Zekâ (ChatGPT) Dünyayı Değiştirebilir mi?
31.05.2023 STM ThinkTech

Üretken Yapay Zekâ (ChatGPT) Dünyayı Değiştirebilir mi?

Stm Blog Uretken Yapay Zeka Dunyayi Degistirebilir Mi Gorsel

Yapay Zekâ (YZ) uygulamaları için heyecan verici bir döneme, başka bir deyişle yeni bir YZ nesline geçişe tanıklık ediyoruz. Aralarında teknoloji devi Microsoft’un da bulunduğu çeşitli kuruluşların desteklediği ABD merkezli OpenAI firmasının 2022’nin Kasım ayında tanıttığı ChatGPT adını verdiği “Üretken Yapay Zekâ (Generative AI)” yüz milyonlarca kişi tarafından kullanılırken, başka firmalar da kendi çözümleriyle rekabete girişti. Uygulamalar özellikle rutin içerik üretimi yapan kesimlerce son derece verimli bulundu, ancak tabii ki tartışma da yarattı. İçerik ve fikri mülkiyet konusu hizmet üreten profesyoneller ve onların temsilciliğini yapan kuruluşlar, bu tür uygulamaların hukuk kurallarına ve mesleki etiğe aykırı olduğunu savundular. Üretken YZ ile geliştirilen içeriklere karşı davalar açılmaya başladı. Bu arada bazı ekonomistler, üretken YZ kullanımının, iş yaşamı, istihdam ve yatırımlar üzerinde olası olumsuz etkilerine dikkat çektiler. Sosyal bilimciler bu tür uygulamaların yaygınlaşmasının kişisel gelişime, sosyal davranışlara ve genel toplum düzenine tehdit oluşturabileceğini savundular. Üretken YZ hakkında, daha emekleme döneminde, ortaya çıkan tartışmalar daha uzun süre devam edeceğe benziyor.

Üretken Yapay Zekâ Nedir?

Üretken yapay zekâ; ses, kodlama, resimler, metin, simülasyonlar ve videolar dahil olmak üzere yeni içerik oluşturmak için kullanılabilecek algoritmaları tanımlanıyor. Üretken YZ, genel olarak makine öğrenmesinin bir alt dalı olarak görülüyor ve veri örüntülerinden yararlanarak “öğreniyor”. Bir makine öğrenmesi uygulaması olarak üretken YZ, herhangi bir insan yönlendirmesi olmadan insanların yönetebileceğinden daha fazla veriyi kullanabiliyor ve içerik üretebiliyor.

Birkaç ay önceye kadar genel kullanıma açık makine öğrenmesine dayalı YZ uygulamaları görüntü, ses veya metinler arasındaki örüntüleri tespit ediyor ancak karar alma süreçlerine destek vermekle yetiniyordu. Bu uygulamalar, örneğin kullanıcının önceki tercihlerine bakarak yeni ürünler, yeni şarkılar, yeni filmler veya yeni hizmetler tavsiye ediyordu. Metinle çalışan ilk makine öğrenmesi modelleri, insanlar tarafından çeşitli girdileri araştırmacılar tarafından belirlenen etiketlere göre sınıflandırmak, örneğin sosyal medya gönderilerini olumlu ya da olumsuz olarak etiketlemek için eğitilmişlerdi. Bu tür bir eğitim, “insan denetimli öğrenme” olarak adlandırılıyor.

Üretken YZ ise sadece tavsiye etmekle kalmıyor, yeni içerikler üretebiliyor. Bunu da yeni nesil, kendi kendini denetleyen makine öğrenmesi modeline dayalı olarak gerçekleştirebiliyor. Bu tür bir eğitim, büyük miktarda metin beslemesini ve milyonlarca dolarlık yatırım gerektiriyor. Örneğin Open AI’nin bir önceki üretken YZ teknolojisi GPT-3’ü eğitmek için yaklaşık 45 terabayt büyüklüğünde, yani 29 milyon kitabın bulunduğu ABD Kongre Kütüphanesinin dörtte biri kadar veriyi girdiği ve bunun için yaklaşık 7 milyon dolar harcadığı belirtiliyor. Doğru miktarda örnek metinle, gramer kurallarına uygun cümlelerden oluşan giriş, gelişme ve sonuç bölümlerine sahip bütünlüklü bir metin önerebiliyor. Üretken yapay zekâyı eğitmek için çok büyük veri kümeleri kullanılıyor.

GPT-4 280 Milyar Makine Öğrenmesi Parametresine Dayanıyor

Üretken YZ, yeni içerik oluşturmak için Üretken Çekişmeli Ağlar (Generative Adversarial Networks - GANs) adı verilen bir tür derin öğrenme mimarisi kullanıyor. Bir GAN, üretici (generator) ve ayırıcı (discriminator) olmak üzere iki yapay sinir ağından oluşuyor. Üretici ağ, verilen metinlerden sentetik içerikler oluşturuyor. Ayırıcı ağ ise üretilen içeriğin gerçek olup olmadığını ayırt etmeye çalışıyor. Üretken YZ, örneğin bir görüntü geliştirirken, üretici sinir ağı veri kümesindeki görüntülere benzer bir görüntü oluşturuyor, ayırıcı sinir ağı ise bu görüntünün sentetik veya gerçek olmasını kontrol ediyor. Ancak bu etkileşimler oldukça karmaşık süreçleri takip ediyor. Öyle ki ABD merkezli teknoloji şirketi OpenAI, GPT-3 için 175 milyardan fazla makine öğrenmesi parametre belirledi. GPT-4 için belirlenen makine öğrenmesi parametresi sayısının ise 280 milyarı bulduğu kaydediliyor.

Üretken YZ teknolojisinin gelişimi için büyük miktarda veri kümesine ihtiyaç olmakla birlikte, teknolojinin gelişimine kullanıcılar yön verecek. Kullanıcıların talepleri arttıkça ve çeşitlendikçe, üretken YZ sistemlerinin performansı ve yetenekleri artacak, bu sistemler kullanıcı taleplerini daha fazla tahmin edebilecek ve onlara daha orijinal içerikler sunabilecek. Bu gelişime veri bilimciler, “ölçeklendirme yasası” adını veriyor.

Üretken Yapay Zekâ İle Neler Yapılabilir?

Üretken YZ, yaratıcıların, mühendislerin, araştırmacıların, bilim insanlarının ve tüm sektörlerin iş akışlarını kolaylaştırmak için güçlü bir araç olabilir. Üretken YZ; modelleri, metin, görüntü, ses, video ve kod gibi girdileri alabilir ve belirtilen yöntemlerden herhangi birine yeni içerik üretebilir. Örneğin, metin girişlerini görüntüye, görüntüyü şarkıya veya videoyu metne dönüştürebilir.

Bu makine öğrenmesi sistemleri, genellikle var olan veriler üzerine dayalıdır, ancak sadece var olan verileri yeniden üretmez. Var olan verilerden veya veri kaynakları kullanarak yepyeni veriler de üretebilir. Örneğin üretken YZ, belli ürünlerin farklı satış noktalarındaki fiyatlarını toplayabilir, söz konusu ürünlerin tarihsel fiyatlarıyla karşılaştırıp belli satış noktalarına göre fiyat eğilimini hesaplayabilir. Ya da mevcut malzeme verilerinden (örneğin belli bir tedavide kullanılan ilaçların içindeki etken maddelerden) yola çıkarak, istenilen nitelikte yeni malzemelerin (yeni bir ilaç etken maddesinin) yapımı için çeşitli formüller üretebilir. Örneğin ProGen, kullanıcının yazılı olarak girdiği özelliklere sahip proteinleri bulabilmek için 280 milyon adet proteinin özelliklerine bakarak en uygun olanını bulabiliyor ve böylece ilaç araştırmacılarının Ar-Ge çalışmalarını hızlandırıyor.

Ar-Ge’de Ana Akım Olacak

Var olan ve potansiyel kabiliyetleri göz önünde tutulduğunda üretken YZ, imalat sektöründe veya bilimsel araştırmalarda önemli bir hızlandırıcı etki yaratabilir. Danışmanlık şirketi Gartner’in 2022 yılında yayınladığı bir rapora göre, 2025 yılına kadar tüketim maddelerinin testlerinin yüzde 20’sinde üretken YZ kullanılabilir. Bir başka tahmine göre ise yine 2025 yılına kadar ilaç geliştirme çalışmalarının yüzde 50’sinde üretken YZ kullanılacak.

Üretken YZ sistemleri “veri çoğaltmak” (data augmentation) için de kullanılabilir. Var olan verilerden çeşitli teknikler uygulayarak küçük değişikliklerle yeni ve sentetik veri oluşturma işlemine “veri çoğaltımı” deniyor. Özelikle fotoğraf ve ses işleme araçlarında, netliği artırmak, ses kalitesini iyileştirmek veya metinlere değişiklikler yaparak yeni öğeler eklemek için veri çoğaltma tekniğinden oldukça yaygın biçimde yararlanılıyor.

Yapay Veri Üretebiliyor

Üretken YZ bu tür uygulamaları ileriye taşıyor. Üretken YZ, derin sinir ağları (deep neural networks) ve GAN kullanarak sentetik veri de oluşturabiliyor. Önceden eğitilmiş üretken YZ’nin bir görüntü, metin veya ses dosyasını üretmesi için kendisine bir veri sunulmasına ihtiyacı yok. Üretken YZ, “Bana siyah beyaz renklerde ağzı açık bir kedi fotoğrafı üret” talimatı verildiğinde gerçekte olmayan sentetik bir kedi fotoğrafı sunabilir.

Üretken YZ ile veri çoğaltma özellikle orijinal verilerin yetersiz kaldığı ortamlarda son derece yararlı olabilir. Bundan en çok tıp bilimi yararlanacaktır. Zira medikal görüntüleme tekniklerinin doktorlara teşhis koymak için yeterli veri sunmadığı durumlarda, mevcut görüntülerden sentetik üç boyutlu modellemeler çıkartılması tıbbi kararların alınması kolaylaştırılabilir. ABD’de 2018 yılında yürütülen bir çalışmada, tümörleri gösteren sentetik beyin MR görüntüleri üretebilen bir model geliştirilmişti. Bu sentetik görüntü, tümörün ameliyatla alınması için bir rehber olabilmişti. Benzer bir durum sürücüsüz araçlar için de geçerli. Trafikte anlık durumlar büyük bir çeşitlilik gösterdiğinden, mühendislerin sürücüsüz araçları her türlü durum için eğitmesi mümkün olmayabilir. Uzmanlar bunun yerine trafiğe ilişkin sentetik veriler geliştirip bunlardan çeşitli simülasyonlar üreterek sürücüsüz araçları eğitiyor.

Üreten YZ, algoritmaların geliştirilmesinde önemli ölçüde zaman ve emek tasarruf sağlayabilir. Özellikle yeni makine öğrenmesi algoritmalarının geliştirilmesinde yararlı olabilir, çünkü YZ’nin olası algoritma kombinasyonlarını aramasına ve daha fazla geliştirmesine imkân tanıyarak zaman ve kaynak tasarrufu sağlayabilir. Üretken YZ, yapay sinir ağlarının performansının artırılmasını da sağlayabilir. Yapay sinir ağları, birbirine bağlı çok sayıda küçük beyin hücresinden (nöron) oluşan bir tür yapay zekâdır. Bu bağlantılar, yapay sinir ağının belirli bir görevi gerçekleştirmesine yardımcı olmak için ayarlanabilir. Üretken YZ, farklı bağlantı yapılandırmalar (konfigürasyonlar) arasında arama yapıyor. Ardından en çok işe yarayan verileri bularak hangi bağlantıların en iyi şekilde çalıştığını anlamaya yardımcı oluyor. Böylece Üretken YZ, sinir ağları parçalarını birleştirerek en iyi ağı oluşturabilir.

İşte ve Sanatta Verimliliği Artırıyor

Üretken YZ’nin hâlen en yaygın kullanımı metin oluşturmaktır. Üretken YZ, talep üzerine sizin için yazılı içerik oluşturabilen kişisel bir asistana sahip olmak gibidir; makalelerin özetlerini çıkarabilir, not alabilir ve düzenleyebilir, ürün ve hizmetlerinizin açıklamalarını hazırlayabilir, internet sitenizin içeriğini güncelleyebilir. Bunun için talebinizi formüle etmeniz ve biraz veri sunmanız yeterlidir. Bu alanda en popüler uygulamalardan biri, konferans uygulamalarında konuşmaların yazılı dökümünü yapıp, üstelik özetleyebilen “tl;dv” uygulaması. Bir başka uygulama, “Heygen.com”, şirket çalışanlarının çeşitli konularda iş akışlarına ilişkin videolar üretmesini kolaylaştırıyor. “Beautiful.ai” ise beyaz yakalılara dinamik sunumlar hazırlama imkânı sunuyor.

Kişisel asistan olarak üretken YZ, metinlerinizi sizin adınıza da okuyabilir. Sesi daha gerçekçi hâle getirmek için çeşitli vurgulamalara ve tonlamalara göre eğitilmiş olan üretken YZ, robot seslendirme sanatçısı gibidir ve eğitimden pazarlamaya, internet üzerinden sesli yayınlardan (podcast) reklamcılığa kadar pek çok alanda görülebilir. Uygun maliyetlidir, esnektir ve hatta birden fazla dilde konuşabilir.

Üretken YZ iyi bir sanatçıdır da… Gerçekçi fotoğraflar, orijinal resimler, kısa video klipler veya uzun sinema filmleri ve müzik eserleri yaratabilir. Örnekleri de ortaya çıkmaya başladı. Artsi.ai sitesi hem YZ ile üretilen resimleri satıyor hem de gerçek sanatçılardan veri olarak kullanabilecekleri resimleri satın alıyor. “Uizard. io” sitesi ise, bilgisayar kodlaması veya hazır tasarım programlarını kullanmayı bilmeyenlerin bile internet sitesi ve mobil aplikasyon tasarlamasına yardımcı oluyor. Üretken YZ ayrıca, video oyunları için üç boyutlu görüntülerin, avatarların, videoların, grafiklerin ve diğer çizimlerin yanı sıra sanal veya artırılmış gerçeklik için gerçekçi görüntüler oluşturabilir, logolar tasarlayabilir, mevcut görüntüleri geliştirebilir veya düzenleyebilir.

Görme Engellilere Dış Dünyayı Tanıtabilir

Üretken YZ uygulamaları, inovatif çözümlerle sadece iş dünyasına değil dezavantajlı gruplara da yardımcı olabilir. Nitekim kısa süre önce OpenAI, Be My Eyes şirketi ile ortaklığa giderek görme engelli kişilere bir yardımcı uygulama geliştirdi. Uygulama, görme engellilere dış dünyayı sözel olarak tarif ediyor. Örneğin bir buzdolabının içinde neler olduğu yapay zekâya girildiğinde, GPT-4 bunu görme özürlü kişiye sesli olarak tarif edebiliyor. Bu özellik, erişilebilirlik alanında büyük bir ilerlemeyi de ifade ediyor.

Üretken Yapay Zekânın Yönetişim Sorunu

Üretken YZ’yi önceki nesillerden ayıran en önemli özelliklerden biri, internet üzerinden dünyanın herhangi bir yerinden ulaşılabilir olması ve hatta Türkçe dahil olmak üzere pek çok dilde içerik sunabilmesi. Elbette YZ şirketleri genel kullanıma belirli sınırlamalar getiriyor veya gelişmiş özelliklere erişim için belli bir kullanım bedeli talep ediyor. Ancak söz konusu bedeller henüz geniş kitlelerin erişilebileceği seviyelerde. Dolayısıyla üretken YZ sistemleri, daha önce kısıtlı çevrelerin hizmetinde olan YZ yeteneklerine erişimi demokratikleştiriyor. Mevcut üretken YZ ürünlerine büyük ilgi de bunun kanıtı: OpenAI’ın ChatGPT uygulaması Kasım 2022’deki lansmanın ardından beş gün içinde bir milyon kullanıcıyı aştı ve Ocak ayına kadar 100 milyon kullanıcı kazanarak en hızlı büyüyen platform rekorunu kırdı. ChatGPT Şubat 2023’te 1 milyar, Mart 2023’te ise 1,6 milyar kez kullanıldı.

Basit bir internet sitesiyle erişilebilir üretken YZ sistemleri, derin YZ veya veri bilimi uzmanlığına sahip olmayan kişi veya kuruluşların bile YZ’yi benimsemesini önemli ölçüde hızlandırabilir. Ancak bunun için üretken YZ sistemlerinin, doğru, bilimsel, tarafsız ve güvenilir veriler üzerine inşa edilmesinin yanı sıra hiçbir birey, grup veya kuruluş açısından çıkar çatışması yaratmaması da gerekiyor.

Bu seviyede mükemmel tarafsızlığa ve güvene ulaşmak kolay değil. Öncelikle üretken YZ sistemlerini geliştirmek hâlen büyük ölçüde özel sektör teknoloji şirketlerinin ve onların yatırımcılarının inisiyatifindedir. ChatGPT ve DALL-E gibi yazılımları ile bu alanın öncü kuruluşlarından biri hâline gelen ABD merkezli OpenAI başlangıçta bu şansa sahipti. Nisan 2023 itibarıyla piyasa değeri 29 milyar doları bulan şirket, 2015 yılında aralarında Elon Musk’ın da bulunduğu bir grup teknoloji yatırımcısının maddi desteğiyle kâr amacı gütmeyen bir kuruluş olarak kuruldu. Ancak karmaşık YZ sistemlerini eğitmenin pahalı olması ve diğer başka nedenlerle 2019’da kâr amacı güden bir kuruluş hâline geldi. OpenAI ayrıca, üretken YZ teknolojilerine hangi teknoloji devinin liderlik edeceği konusunda Google ile şiddetli bir rekabete giren Microsoft tarafından destekleniyor. Microsoft’un yazılımın geliştirilmesi için şimdiye kadar 20 milyar dolar destekte bulunduğu söyleniyor. OpenAI, rekabet baskısı nedeniyle ürünlerinin eğitim verilerini paylaşmadığını söylüyor. Bu da şirketin YZ ürünlerinin güvenilirliği konusunda soru işaretleri yaratıyor.

Öte yandan, bütün YZ uygulamaları gibi üretken YZ sistemleri de yararları kadar olumsuzlukları beraberinde getirebiliyor. Örneğin üretken YZ ilaç geliştirilmesini kolaylaştırabilir ama siber saldırganların, hedef aldıkları kuruluşların bilgisayarlarında hangi siber güvenlik yazılımını kullandığını tahmin etmesine veya siber saldırıda kullanılabilecek otomatik metinleri (Oltalama e-postaları, sahte haberler vb.) geliştirmesine de yardımcı olabilir.

Ayrıca üretken YZ, var olan verilerden yola çıktığı için fikri mülkiyet hakları için de her zaman bir tehdit olacaktır. Örneğin bir kullanıcının Drake ve The Weekend’in sesleriyle eğittiği bir YZ yazılımıyla hazırladığı “Heart On My Sleeve” şarkısı 2023’ün Nisan ayında birkaç günde sosyal medyada milyonlarca kişi tarafından dinlendi. Yalnızca Spotify’da 629.439 kez dinlenen şarkı, şarkıcıların telif haklarına sahip Universal Music’in başvurusuyla kaldırıldı.

Bunların dışından üretken YZ kullanımı, haksız rekabet yaratacak özelliklere sahiptir. Örneğin öğrencilerin okul ödevlerini ChatGPT gibi uygulamalarda hazırlamaya başlaması üzerine ABD ve Avrupa’da bazı okullar, okul bilgisayarlarından üretken YZ sitelerine girişi yasakladılar ve ödevlerde YZ kullanıp kullanılmadığını tespit edebilen yazılımlar kullanmaya başladılar. ABD’de bir hukuk şirketi, DoNotPay isimli hukuki danışmanlık veren “Robot Avukat” olarak anılan YZ destekli internet sitesine karşı, “hukuk diploması olmadan adli hukuki danışmanlık hizmeti vermek” suçlamasıyla Mart 2023’te dava açtı.

Üretken yapay zekâ uygulamalarının kullanımı yaygınlaştıkça bu tür itilafların artması muhtemel. Bu nedenle OECD (Organisation for Economic Cooperation and Development) gibi uluslararası kuruluşlar, YZ geliştiren şirketler, kullanıcı temsilcileri ve bilişim alanını düzenleyen kuruluşların bir araya gelerek “etik YZ” kurallarını belirleyecek yönetişim mekanizmalarını oluşturması gerektiğini savunuyor.

Üretken Yapay Zekânın Sınırları

Üretken YZ’ler, güçlü araçlar olmasına rağmen, tüm teknolojiler gibi, gelişiminin önünde bazı engeller, zafiyetler ve dezavantajları bulunuyor. Bunların başında son derece uzun ve meşakkatli bir süreçten geçerek geliştirilen üretken YZ’nin yüksek maliyeti geliyor. Bunları geliştirmek, çalışır durumda tutmak ve güncellemek için kalifiye personele, özel donanımlara ve yazılımlara ihtiyaç vardır. Üretken YZ’lerin barındırıldığı veri merkezlerinde bir grafik işlemcinin fiyatı bile 10.000 doları buluyor. OpenAI’nin ChatGPT’yi erişime açık tutmak için hosting hizmetine ayda 200.000 dolar ödediği tahmin ediliyor. Ayrıca özellikle eğitim aşasında çok fazla elektrik harcamak gerekiyor. Örneğin 2021 yılında yayınlanan bir makaleye göre yine OpenAI’nin GPT-3’ün eğitimi için 1.287 gigavatt saat, yaklaşık 120 hanenin bir yılda tüketeceğine denk elektrik tükettiği belirlenmişti. Aynı makaleye göre, bu eğitim 502 ton karbon emisyonuna, bir başka deyişle yılda yaklaşık 110 otomobilin yaydığı eşit miktarda sera gazı salımına yol açtı. Dolayısıyla hem geliştirmek hem de aktif hâlde tutabilmek için şirketlerin milyonlarca dolar harcaması gerekiyor. Bu nedenle üretken YZ’de küçük ve orta ölçekli işletmelerin de katılabileceği bir rekabet ortamının gelişmesi uzun zaman alabilir.

Güncel Bilgiden Yoksun

Bir diğer kısıt veri güncelliği ve kalitesidir. Üretken YZ, doğru tahminler yapmak için yüksek kaliteli verilere dayanır. Veriler eksik, yanlış veya güncelliğini yitirmişse, sonuçlar güvenilmez olabilir. Bir yapay zekâ modeli eğitimi tamamlandıktan ve kullanıma sunulduktan sonra, modelin bilgi kesilme (knowledge cutoff) noktası oluşur. Bu, modelin daha fazla veriyle güncellenmediği ve bu noktadan sonra gerçekleşen olaylar hakkında bilgi sahibi olmadığı anlamına gelir. ChatGPT için bu tarih Eylül 2021’dir. Bu tarihten sonraki gelişmeler üretken YZ’ye aktarılmamıştır. ChatGPT internete de bağlı değildir ve güncelleme alamaz. Bu nedenle ChatGPT’den güncel borsa veya hava durumu verilerini almak mümkün değildir.

Uygulamanın internete bağlı olmamasının çeşitli nedenleri var. Bunların başında fikri mülkiyet haklarının ve kişisel verilerin ihlal edilmesi endişesi geliyor. Üretken YZ geliştiren kuruluşlar güncel verileri ve haberleri alırsa bunları sağlayan kuruluşlar tarafından dava edilebilirler. Ayrıca internetten alınan güncel veriler değişkendir ve çoğunlukla güvenilmez olurlar. Bu da YZ’nin sağladığı yararları baltalayabilir.

“Beyni ve Kalbi Yok”

Üretken YZ insanlar gibi etkileşim kurabilir, ancak “beyni ve kalbi” yoktur. Bu tür sistemler, insanların verebileceği yanıtlar üretse ve büyük miktarda bilgiye erişebilse de duygusal zekâya sahip olmadığı için insan düzeyinde bir sağduyudan yoksundur. Duygusal ipuçlarını (mizah, alaycılık, kinaye vb.) algılayamaz veya karmaşık duygusal durumlara uygun şekilde yanıt veremez. Bu üretken YZ’nin bazen belirli sorulara veya durumlara anlamsız veya yanlış yanıtlar verebileceği anlamına geldiği gibi, bağlamı tamamen kaçırabileceği anlamına da gelir. Sloven düşünür Slovaj Zizek, sohbet robotlarının bu yönünün insanlar arasında iletişimi de kötü yönde etkileyeceğini düşünüyor. Zizek, “Sorun sohbet robotlarının saf, yani ironiden veya tepkisellikten yoksun olmaları değil, yeterince saf olmamalarıdır. Asıl tehlike insanların bir sohbet robotunu gerçek bir insan sanması değil, sohbet robotlarıyla iletişim kuran insanların, günlük hayatta gerçek kişilerle sohbet robotları gibi konuşmaya başlamasıdır. Çünkü tüm nüans ve ironileri kaçırırlar. Üstelik takıntılı biçimde yalnızca tam olarak kişinin söylemek istediğini düşündüğü şeyleri söyleyebilirler” diyor.

Halüsinasyon Yaratabiliyor

Üretken YZ uygulamaları “halüsinasyon” yaratabilir. Yapay zekâda halüsinasyon, makul görünebilecek ancak olgusal olarak yanlış veya verilen bağlamla ilgisiz çıktıların üretilmesini ifade ediyor. Bir üretken YZ, tutarlı bir dil veya görüntüler oluşturmak için çeşitli veri kümelerine başvurur. Üretilen çıktılar düzgün gramere sahiptir ve bu, inandırıcılığı artırır. Ama YZ algoritmasına sızan önyargılarından, gerçek dünyayı anlama eksikliğinden veya eğitim verisi kısıtlarından dolayı “halüsinasyon” yaratırlar. Bir başka deyişle güvenilmez veya yanıltıcı yanıtlar üretirler. Ayrıca üretken YZ’lerin bilgi üretme modelleri kullanıcıyla paylaşılmaz ve bu nedenle bazen alınan verilerin doğruluğu da açıklanamaz. Halüsinasyonlu çıktılar, potansiyel olarak zararlı klişeleri veya yanlış bilgileri sürdürerek YZ sistemlerini etik açıdan sorunlu hâle getirebilir. Dolayısıyla üretici yapay zekâların halüsinasyon sorunu, ciddi sonuçları olan kötü seçimlere yol açabilir. Halüsinasyonların devam etmesi öncelikle bunu geliştiren üretken YZ’ye, sonrasında tüm türdeş YZ sistemlerine güveni baltalar.

Üretken YZ sistemleri daha yaygın hâle geldikçe, halüsinasyon olgusunu ele almak, bu teknolojilerin tam potansiyelini gerçekleştirmek için çok önemlidir. YZ geliştiricileri ve kullanıcıları halüsinasyonun nedenlerini anlayarak ve oluşumunu azaltmak için araştırmaya yatırım yaparak bu güçlü araçların sorumlu ve etkili bir şekilde kullanılmasını sağlamaya yardımcı olabilir.

Üretken Yapay Zekâ Büyük Bir Siber Güvenlik Tehdidi Olma Yolunda

Çağımızın en önemli yeniliklerinden biri olan YZ teknolojisinde sadece ekonomik alanda değil jeopolitik alanda da kıyasıya bir rekabet yaşanıyor. Ancak tüm yeni teknolojilerde olduğu gibi üretken YZ alanındaki gelişmeler de büyük fırsatların yanı sıra büyük tehditleri beraberinde getiriyor.

Siber güvenlik, üretken YZ’nin tehdit oluşturduğu alanların başında geliyor. Zira STM Siber Güvenlik ekibi tarafından hazırlanan Ocak-Mart 2023 Siber Tehdit Raporu’nda altı çizildiği üzere siber saldırganlar üretken YZ’yi kendi kirli amaçları için kullanma arayışında. Raporda “Yeraltı hack forumlarında bulunan gönderiler, kötü niyetli kişilerin de bu sohbet robotunu bilgi hırsızlığı yazılımları, şifreleme araçları ve yasa dışı Dark Web marketleri için kripto paralarla ödeme yapılan bir platform oluşturmak gibi amaçlarla kullanmaya çoktan başladığını göstermektedir” uyarısında bulunuluyor. En popüler üretken YZ uygulaması ChatGPT de tehlikenin farkında… Uygulamaya ChatGPT’nin siber saldırı için kullanılıp kullanılamayacağı sorulduğunda önce “hayır” yanıtını veriyor ama devamında “Siber saldırganlar bazen ChatGPT gibi dil modellerini kötü amaçlarla kullanmaya çalışabilirler. Örneğin spam postaları yazmak, sahte haberler yaymak veya dolandırıcılık amaçlı mesajlar oluşturmak gibi. Bu tür kötü amaçlı kullanımlar, (…) yasa dışıdır” uyarısında bulunuyor.

STM’nin raporuna göre üretken YZ yakın gelecekte yeterli kodlama bilgisi olmayanları bile siber saldırgan hâline getirebilir. Raporda “Bu sohbet robotu (ChatGPT), çeşitli programlama dillerinde çalıştırılabilir kodlar üreterek siber güvenlik tecrübesi olmayan kişilerin bile zararlı yazılım oluşturabilmesine ve dolayısıyla siber suçlara giriş eşiğinin düşmesine sebep olmaktadır” deniliyor.

OpenAI, geliştirdiği teknolojinin siber suçlarda kullanılmasını önlemek amacıyla ChatGPT’nin 14 Mart 2023’te kullanıma açılan versiyonu ChatGPT-4’ü kötü niyetli yönlendirmelere karşı gelmekte daha başarılı olacak şekilde eğittiğini açıkladı. Şirkete göre yeni üretilen dil modelinin, uygunsuz içerik taleplerine yanıt verme olasılığı yüzde 82 daha düşük. Ancak bu, aracın kötüye kullanılma riskinin devam ettiğini gösteriyor.

Dezenformasyon Aracı Hâline Gelebilir

Üretken YZ, özellikle metin üreten uygulamalar, gerek “halüsinasyon” sorunları gerekse kullanıcı verileri üzerinde “inandırıcı” metinler üreterek bir başka tehdidin büyümesine neden oluyor: dezenformasyon. STM’nin Ocak-Mart 2023 dönemi Siber Tehdit Durum Raporu'nda, ChatGPT’nin yalan ve yanıltıcı bilgilerin yayılması için kullanılabileceğini kanıtlayan önemli bir çalışmaya da yer veriliyor. ABD’de medyada yalan haberler ve dezenformasyon konusunda farkındalığı artırmaya çalışan bir sivil toplum örgütü olan NewsGuard’ın analistleri, Ocak 2023’te yalan haber veritabanlarından seçtikleri 100 haber metni için, ChatGPT’den içerik üretmesini istemiş. Model, seçilen 100 hikâyeden yalnızca 20 tanesinin yanlış bilgi içerdiğini tespit ederek içerik üretmeyi reddetmiş, geri kalan 80 tanesi için yalan bilgi içeren içerikler üretmiş. Bu araştırmanın sonuçları, ChatGPT’nin kötü niyetli insanların ellerinde bir yalan haber aracına dönüşebileceğine ilişkin korkuları doğruluyor.

Bu konuda gerçek bir vaka Nisan 2023’te Almanya’da yaşandı. Die Aktuelle dergisi, 2014 yılında geçirdiği kazanın ardından sağlık sorunları nedeniyle kamuoyu önüne çıkmayan efsane F1 pilotu Michael Schumacher ile “character.ai” adındaki üretken YZ’yi kullanarak bir “röportaj” yaptı. Sahte röportajda Schumacher’in “İyiyim, yürümeye başladım” gibi hayali sözleri aktarılıyor. Sonuç beklenildiği gibi oldu: Schumacher ailesi dava açarken, tepkiler üzerine derginin genel yayın yönetmeni istifa etmek zorunda kaldı.

Eğitimi Baltalar mı Destekler mi?

Kasım 2023’te kullanıma açılan ChatGPT sohbet robotuna ilk tepki verenler eğitim kurumları oldu. Öğrencilerin uygulamayı okul ödevleri, projeleri, tezleri ve sınavlarında kullandığı iddiaları üzerine ABD, İngiltere, Fransa ve Avustralya’da eğitim kurumları, öğrencilerin üretken YZ kullanımını yasakladı. Haksız rekabet, akademik tembellik ve intihal gibi kaygılar dikkate alındığında eğitim kurumlarının tepkisi makul görünüyor. Ancak zaman geçtikçe, üretken YZ uygulamalarının eğitimi destekleyebileceğine dair görüşler de dile getirilmeye başlandı. Gelişmiş sohbet robotlarının, dersleri daha etkileşimli hâle getirebileceği, öğrencilere medya okuryazarlığı öğretebileceği, kişiselleştirilmiş ders programlarının oluşturulmasına yardımcı olabileceği ifade ediliyor. ABD’de Duolingo ve Quizlet gibi eğitim teknolojisi şirketleri, OpenAI’ın sohbet robotunu uygulamalarına entegre etti. Duolingo, RolePlay adını verdiği YZ destekli bir sohbet robotu ile hizmet vermeye başladı. Bu robot, söylediklerinize yanıt verdiği gibi gerektiğinde konuşmanızı düzeltmek için müdahalelerde bulunabiliyor. Tepkiler azalmakla birlikte üretken YZ ile eğitim arasındaki gerilim, bir denge oluşuncaya dek devam edecek gibi görünüyor.

İşgücü Piyasaları Darbe Alabilir

Yükselen her teknoloji gibi üretken YZ uygulamaları da mevcut işgücü açısından bir tehdit oluşturuyor. Tehdit özellikle beyaz yakalı çalışanlara yönelik görünüyor. Üretken YZ, çeşitli sektörlerde özellikle orta kademelerde beyaz yakalı çalışanların işlerini kaybetmesine neden olabilir. ABD’nin Goldman Sachs bankasının Mart 2023’te yayınladığı bir rapora göre, yeni YZ dalgası dünya genelinde işlerin yüzde 18’ini otomatik hâle getirebilir ve 300 milyon kişinin işini kaybetmesine neden olabilir. Rapora göre üretken YZ kullanımının yaygınlaşması en çok şirketlerin idari çalışanlarını ve avukatlarını etkileyecek. Goldman Sachs ekonomistlerine göre YZ çalışma hayatını etkilemeye çoktan başladı. ABD ve Avrupa’da mevcut işlerin yaklaşık üçte ikisi “bir dereceye kadar YZ otomasyonuna maruz kalıyor” ve tüm işlerin dörtte birine kadarı tamamen YZ tarafından yapılabiliyor.

Yeni teknolojilerin iş yaşamında büyük çalkantılara yola açacağı uzun süredir tartışılıyor. Dünya Ekonomik Forumu (WEF) daha 2020 yılında YZ’nin de aralarında bulunduğu yeni teknolojilerin otomasyonda kullanımının artmasıyla 2025 yılında dünya genelinde 80 milyon istihdamın yok olabileceğini ancak 97 milyon yeni iş imkânının yaratılabileceğini, bunun da genel ekonomik refahı artıracağını tahmin etmişti. Bazı ekonomistler, YZ kullanımının özellikle beyaz yakalı işler yerine kullanılmasının özellikle orta sınıfların kariyer imkânlarını sınırlayarak genel refaha büyük darbe vuracağını ileri sürüyor.

Eleştirilere rağmen dünya genelinde birçok kuruluş üretken YZ’ye yatırım yapıyor ve potansiyel uygulamalarını daha fazla araştırıyor. Teknoloji durdurulması güç bir hızla gelişiyor ve tehditlere rağmen gelecek konusunda iyimserlik korunuyor. Çünkü YZ kullanımıyla birçok sektörde inovasyon ve ilerleme için çok fazla potansiyel var.

Etiketler: Yapay Zeka ChatGPT

Stratejik işbirliği ve ihtiyaçlarınıza özel çözüm önerilerimiz için bizimle iletişime geçin.

Bize Ulaşın

ThinkTech STM Savunma

Thinktech Logo

T.C. Cumhurbaşkanlığı Savunma Sanayii Başkanlığı’nın mühendislik, teknoloji ve program yönetimi alanlarında ihtiyaç duyduğu “danışmanlık” hizmetinin esnek, hızlı ve dünya standartlarında verilebilmesi için 1991 yılında STM kurulmuştur. Kurumsal deneyim, bilgi birikimi, nitelikli insan kaynağı ve marka değerine sahip olan STM; “danışmanlık” alanında dünya çapında rekabet edebilir bir konuma ulaşma vizyonu ile Teknolojik Düşünce Merkezi ThinkTech’i 23 Kasım 2017 tarihinde faaliyete geçirmiştir. Türkiye’nin teknoloji odaklı ilk düşünce merkezi olan STM ThinkTech, objektif bir yaklaşımla, “savunma ve güvenlik” sektörü öncelikli olacak şekilde teknoloji tabanlı analizler yapmakta, raporlar yayımlamakta ve profesyonel network faaliyetleri düzenlenmektedir.

Aranacak kelimeyi girin ve "enter" tuşuna basın.
Çıkmak için "ESC" tuşuna basın.