Neden Bazı Yapay Zeka Projeleri Başarısız Olur?

Yapay zeka projelerinin %85'i başarısız oluyor, bunun 6 nedeni

created with META AI

Yazı İçeriği ;

Giriş

1-Yapay zeka sistemleri sorunu doğru çözmüyor

2-Yapay Zeka Ve İnovasyon Açığı

3-Yapay zeka sistemleri yeterince iyi performans sağlayamıyor ve çoğunlukla kullanışlı değil

4-Yapay zeka sistemleri yeterli DEĞER üretmiyor

5-Kolayı gözden kaçırıyoruz

6-Etik, önyargı, toplumsal zarar

Sonuç

şeklinde ilerleyecektir.

Giriş

Göz alıcı manşetler ve heyecan verici teknik gelişmelere rağmen, yapay zeka projelerinin geçmişteki performansı pek de parlak değil. Gartner ve HBR gibi araştırma firmalarının verilerine göre, yapay zeka projelerinin %85'i canlıya alınmadan öncesinde veya sonrasında başarısız olduğu tahmin ediliyor.

created with DALL-3

Bu oran, yazılım projelerinde başarısızlık oranının iki katından fazla.

Yapay zekanın normal bir yazılıma kıyasla daha zor yayımlanması (deploy edilmesi :( ) yaygın bir bilgi diyebiliriz. Bunun temel sebebi ise yapay zekanın kendisinin belirsiz sonuçlar üretmesi ve kullanıcıların elinde yeteneklerinin tam olarak anlaşılamaması ve sürprizli olması :).

Yazılımın canlıya alınması sonrası ortaya çıkan istenmeyen sonuçlar, projelerin başarısızlıkla sonuçlanmasına ve kullanıcıların yapay zeka sistemlerine olan güveninin sarsılmasına yol açabilir. Bu durum, projelerin maliyetlerini ve yatırım getirisini (ROI) önceden tahmin etmeyi de zorlaştırır.

Yıllar süren akademik ve sektör araştırmalarını kapsayan kaynaklardan edindiğim bilgilere göre başarısızlık riski taşıyan yapay zeka projelerine bazı örnekler:

• Öneri sistemleri
• Sürücüsüz arabalar
• Bilgisayarlı görme
• Sağlık hizmetleri teşhisi
• Otonom robotlar
• Finansal risk değerlendirmesi

1. Yapay zeka sistemleri sorunu doğru çözmüyor

“Veri bilimcileri insanların istemediği şeyleri ortaya çıkarıyor. Tasarımcılar gerçek olamayacak fikirlerle geliyor ” John Zimmerman , CMU

Veri bilimcileri ve teknik uzmanlar genellikle ayrı ayrı çalışırlar , işin geri kalanında çok nadir etkileşime girerler, bu nedenle katma değer ve değişim sağlama olasılığı düşük projeler üretirler.

Tasarımcılar bir teknolojiyi yararlı ve kullanılabilir hale getirmek için en iyi konumdadırlar çünkü sorunlara kullanıcıların bakış açısıyla yaklaşırlar. Ancak İşlevsel kararların alındığı projelerin sonuna kadar genellikle katılmaya davet edilmezler ,üzerinde çalışılacak yapay zeka yeteneklerinin kapasitelerinden ve yapabilecekleri bilgisinden yoksundurlar.

Yapay zeka araştırmaları ise çoğunlukla yeteneklere (Yapay zekanın insanlara sağlayacağı faydaları belirleyerek, bu faydaları kullanıcılara ulaştıracak bir ürüne dönüştürmek) değil, mekanizmalara (bir şeyin teknik olarak nasıl çalıştığına) odaklanır.

Burada bir ayrım yapmak isterim, mühendislik eğitimi alan kişiler çoğunlukla problemi görme, problem çözme, çözüm aşamasını şemalandırma eğitimleri ve disiplinlerini bilerek ve öğrenerek yetiştirildiği için sektörde farklılık gösterebilmektedir.

Görev tanımını anlayalım;

Veri Bilimcileri mekanizmaları iyileştirme ve icat etme alanında çalışırlar .

Tasarımcılar ve Ürün Yöneticileri, bir kabiliyeti arzu edilen bir ürüne dönüştürme alanında çalışırlar .

Procter & Gamble, Veri Bilimcilerini geçici olarak iş birimlerine yerleştirdi. Accenture Song, yapay zeka inovasyonunu veri bilimi ve tasarım konuları ile araştırdı. Araştırmacılar , Veri Bilimcileri, Tasarımcılar ve alan uzmanlarından oluşan ekiplerle başarılı yapay zeka fikir oturumları yürüttü.

O araştırmadan itibaren daha fazla araştırma yapıldı ve sonuç olarak:

“ Tasarım katılımcıları, ne yapacaklarını hayal etmeye yardımcı olmak için veri bilimcilerle sürekli işbirliğine girdiklerinde ve veri merkezli bir kültürü benimsediklerinde en başarılı sonucu elde ettiler…”

Birçok araştırmada yapay zeka kullanım senaryolarının önce etkiye, sonrasında riske ve üçüncü olarak verilere göre önceliklendirilmesini öneriyor: “Bu kullanım senaryosunu gerçekleştirecek veriye sahip miyiz? Kullanma iznimiz var mı? Kullanışlı olacak kadar temiz mi? Bu adımı aşamazsak başlamıyoruz. Başka bir kullanım durumu buluyoruz.”

2. Yapay Zeka Ve İnovasyon Açığı

Teknik ilerlemeleri genellikle tasarım yenilikleri takip eder. Yeni olanak sağlayan teknoloji, insanların yaşamın farklı yönlerine dahil edilen birçok yeni teknoloji biçimini tasavvur etmesine yol açar.

Mühendisler yeni yeteneklere olanak tanıyan yeni teknolojiler yaratırlar. Tasarımcılar yeni teknolojiler icat etmezler. Bunun yerine bilinen teknolojilerin yeni versiyonlarını yaratırlar (Louridas, 1999)

Ancak son 60 yıllık yapay zeka araştırmalarında diğer teknolojiler gibi zengin bir tasarım yeniliği yaşanmadı. Sebepleri bence yapay zekanın görünmez olması ( anlaşılmasının güçlüğünden geliyor) , proaktif olarak sonuçlara hizmet etmesi ve tasarım yapmak için kullanımının tespit edilmesinin zor olması diyebilirim.

Üretken yapay zeka, yapay zekayı arayüzün (interface) merkezine getirdi. Nasıl? Önceden Siri’yi gelen bildirimlerdeki tahminleme ve pazarlamaları ya da müşteri hizmetlerindeki -ARKA PLANDA- olan yapay zeka figürlerine alışık toplumu ChatGPT sayfasına ve kullanımına alıştırdı

Günümüzün gerçek yapay zeka devrimi UX ( kullanıcı deneyimleri ) ile ilgilidir.

İnsanlar yapay zeka modelleriyle doğrudan etkileşime giriyor ve sonuçları bir şekilde optimize etmeye çalışıyor. Bununla birlikte, diğer yapay zeka türleri (cihazlarımızın arka planında, ürünlerde ve çevremizde çalışan yüzlerce yapay zeka modelimiz mevcut :) ) nadiren tartışılıyor ve genellikle fark edilmiyor.

Araştırmacılar bunu ‘Yapay zeka-inovasyon açığı’ olarak adlandırıyor ve genellikle şuna atfediliyor:

Veri Bilimindeki teşhis edilmiş 2 açık

Etkili fikirlerin eksikliği
Çoğu veri bilimcisinin (data scientist) zamanı analize, model oluşturmaya ve verilerden değerli bilgiler elde etmeye harcanır. Fikir oluşturmaya, yani verilerle çözülecek doğru sorunları keşfetmeye nispeten daha az zaman harcanır. Hemen tek bir fikre odaklanmak yerine, ilk etapta sorulması daha iyi olabilecek yüzlerce alternatif fikir nelerdir?

Efektif zihinsel modellerin ve bunların iletişiminin eksikliği
Veri bilimi kavramlarını işbirlikçilerine ve çalışma arkadaşlarına açıklama sorumluluğu genellikle yapay zeka geliştiricilerine düşüyor. Uygulamada, özellikle teknik bilginin ve onun değerinin aktarılması sırasında iletişim boşlukları ortaya çıkar. Çünkü yöneticiler veya tasarımcılar tam olarak anlayamadığı konuya karşı etkili yorum üretemezler.

Barr Moses’a göre ‘Üzücü gerçek şu ki yapay zekanın yaratıcıları bile onun nasıl çalıştığından tam olarak emin değil.‘

Konuya dair çözümler önerildi:

1.Anlamlandırma çerçevesi (Yapay Zekam Ne Öğrendi? Veri Bilimcileri Model Davranışını Nasıl Anlamlandırıyor?)

2. Geliştiricilerin zihinsel Düşünceleri (Yapay Zeka Geliştiricileri Çok Disiplinli Bir Ekipte İletişim Zorluklarının Üstesinden Nasıl Geliyor: Bir Örnek Olay İncelemesi)

Ve Tasarımdaki teşhis edilmiş 2 açık

Tasarımcılar, makine öğreniminin kullanıcı deneyimini geliştirebileceği bariz yerleri fark etmiyor

Örneğin: Starbucks’ın hediye kart modeli
Starbucks uygulaması, bir mağazada olduğunuzu algıladığında sizi otomatik olarak ödemeler ekranına yönlendirebilir ancak hediye kartını kullanmak için kullanıcılar yine de ödemeler bölümüne tekrar tekrar gitmek zorunda kalır. Bunu çözmek kesinlikle zor değil ama yapay zekanın büyük kolaylıklar sunabileceği, gözden kaçan bir yer.

Tasarımcılar, medyadaki abartılı reklam ve eleştirilerin yönlendirdiği bizi ele geçiren yapay zeka bilgisine ve hayaline sahip

Tasarımcılar, daha az riskli, sevk edilebilir yapay zeka ürünleri yerine, yapay zekanın gerçekçi bir şekilde yapamayacağı, bilim kurgudan ilham alan yetenekler bulma eğilimindedir. Son kullanıcıların algısı da medyadan etkileniyor, yapay zekanın onların yerini alacağını, insan gibi davranacağını, deterministik çalışacağını düşünüyor. Bu, hem olasılıksal yapay zeka sistemi hem de belirsiz yapay zeka beklentileri ve zihinsel modelleri olan kullanıcı için tasarlanacak ve karşılıklı olarak uyarlanabilir iki aracıyla sonuçlanır.

3. Yapay zeka sistemleri yeterince iyi performans sağlayamıyor ve çoğunlukla kullanışlı değil

Yapay zeka sistemlerinin tatminlemelerde zorlandığı ve bunun sonucunda sistemlerin kullanışlı olamayabileceği çeşitli çıktılar mevcut. ( Bence gelişim süresi ile bunu aşacağız.)

Daha yakından bakarsak, bunlar aslında yapay zekanın göreve uygun olmadığı durumlarda geçerli oluyor ve (LÜTFEN) bir insana görevi devretmek daha umut verici bir seçim olacaktır:

• Nadir* hastalıklar için sağlık tanısı.

Sağlık hizmetleri klinik karar sistemleri yaygın senaryolar için tahminler sunar. Ancak doktorlar, yapay zekanın kötü performans gösterdiği alışılmadık senaryolarda gerçekten çalışmadığını iletiyor.

(özellikle nadir diyorum çünkü sağlıkta kullanımının kesinlikle destekçisiyim)

• Anlamsal nüanslar için otomatik içerik denetimi
  Yapay zeka içerik denetleme sistemleri, incelikli dili (hiciv, alaycılık, kültürel referanslar) doğru bir şekilde tanımlamakta zorlanabilir.(Özellikle güzel Türkçemiz…) Sistemler, aslında yönergeleri ihlal etmeyen içeriği, bir kişinin onaylaması için işaretlenmesi gerektiğinde kaldırabilir.
• Çevresel değişikliklere yanıt veren otonom araçlar
  Araçlar dur işaretlerinde duracak şekilde eğitilmiştir. Ancak karşıdan karşıya geçen bir güvenlik görevlisi sokağın ortasında rastgele bir dur işareti tuttuğunda araç duruyor ve nasıl ilerleyeceğini bilemiyor. Sistemler, tepki veremeden değişen öngörülemeyen hava engelleri veya yerdeki hendek gibi negatif alanların haritalanması gibi yeni durumlarla mücadele ediyor. Ya da trafik polisi ondan durmasını istediğinde durması gerekiyor ama asi çocuğumuz hareketine devam edebiliyor.

Hepsinin gelişeceğine eminim ama ek olarak bunun yerine, yapay zekanın harika bir şekilde üstün olduğu ve olabileceği yerlerde yapay zekayı uygulamayı unutmayın;

(1) Yapay zekanın insan hatasını azalttığı sıradan , tekrarlayan veri girişi görevleri. Not almak, bilgi aramak, fotoğraf albümlerini kişiye, zamana, konuma göre sıralamak.

(2) Büyük veri kümelerini ölçeğe göre sıralayın ve öngörüler, modeller ve öneriler sağlayın. Örnekler arasında toplantı özetleri, anahtar kelimelere veya görsellere göre zaman içinde anları etiketlemek, dünya verilerine bakarak yabancı bir casus balonu bulmak yer alıyor.

(3) İnsanların zihinsel veya fiziksel olarak yapamayacağı hızlı, gerçek zamanlı görevler. Otonom robotlar depoları yönlendiriyor veya verileri yakalamak, altyapıyı incelemek için dünyanın uzak yerlerine manevra yapıyor, kendilerini tehlikeye atan askerlerin tahminlerini ortadan kaldırıyor.

(4) İnsan-Yapay Zeka işbirliği. Yardımcı pilotlar, ajanlar, yapay zeka ortakları, hangi terimi seviyorsanız. Bu konseptin kökeni robotları denetlemekten kaynaklanmaktadır. Sheridan -Verplank Ölçeği , özerkliğin olmamasından tamamen özerk makinelere kadar insan-makine etkileşiminin düzeylerini tanımlar. Araştırmalar robotlar için orta seviyelerin işe yaramadığını gösteriyor. Makineyi denetlemekten görevi tamamen devralmaya geçiş yapan bir kişi için yüksek bilişsel yük vardır. Bilgisayar arayüzlerinde bile etkili aktarımların tasarlanması, insanları önceden tahmin etmeye ve daha sonra görevlere katılmaya hazırlayacaktır .

4. Yapay zeka sistemleri yeterli DEĞER üretmiyor

Oluşturma ve sürdürme maliyeti yüksek, getirisi düşük.

Alexa, insanların Amazon’dan daha fazla ürün sipariş etmesi amacıyla piyasaya sürüldü. Bunun yerine insanlar Alexa’yı müzik çalmak için kullandılar. Artık insanlar alışveriş yapmak yerine Alexa’dan müzik çalmasını istediğinde Amazon para kaybediyor.

COVID’i yakalamak için yüzlerce yapay zeka aracı geliştirildi . Dünyanın dört bir yanındaki araştırma ekipleri yardıma koştu. Hastanelerin hastalara daha hızlı teşhis koymasına veya triyaj(aciliyetine göre sıralama) yapmasına olanak tanıyan yazılım geliştirildi. Ancak maalesef neredeyse hiçbiri işe yaramadı, bazıları zararlıydı. Pek çok sorun zayıf verilerle bağlantılıydı. Bu, düşük hizmet değerine sahip yüksek yapay zeka yatırımının bir örneği olan benimseme ve yatırım sorunlarının azalmasına yol açtı.

Benzer şekilde, IBM Watson for Oncology, kanser tedavilerini işleyebilen ve önerebilen yapay zekanın geliştirilmesinde teknik bir başarı elde etti. Ancak yüksek geliştirme maliyetleri, entegrasyon zorlukları ve tedavi sonuçlarını mevcut tıbbi bilginin ötesinde iyileştiren sınırlı etki nedeniyle yeterli yatırım getirisi sağlayamadı. Finansal getiriler için optimalin altında kaldı.

Yapay Zeka Oluşturma Fikirleri

Yapay zeka görevleri vaat edildiği gibi yerine getirmediğinde şişirilmiş beklentilerimiz boşa çıkacaktır. Ancak mevcut verilerle bu görevlerin gerçekleştirilmesi henüz mümkün de olmayabilir.

Başarılı Yapay Zeka Ürün ve Hizmetlerini Tasarlama konusundan daha fazlası .

created with DALL-3

5. Kolayı gözden kaçırıyoruz

Kullanıcı ve iş hedefleriyle uyumlu basit yapay zeka fırsatları var ancak şirketler bunları oluşturmuyor.

• Instagram -Tiktok -Twitter, etiketleyenleri görüntülemeleri almak ve profillerine çekmek için paylaşım yapmalarını istiyor ancak etiketleyenlerin sıklıkla hangi etiketleri kullandığını öğrenmiyor, bu da kişileri aynı etiketleri tekrar tekrar yazmaya zorluyor. Yenisini önermiyor bir mail imzası kaydeder gibi kaydetmiyor.
  Oluşturulması zor değil ama fark edilmeyen ya da yapılmayan bir yapay zeka fırsatı.
• Kendi kendine park eden arabalar yalnızca dar alanlara park etmekten korkan küçük bir kullanıcı grubuna hizmet ediyor. Bir arabanın kendi kendine park edebilmesi için yapay zeka oluşturmak çok zordur. Ancak her arabada olabilecek basit bir tahminle başlıyor: Bu alan yeterince büyük mü? Bir alana ben park edebilir miyim edemez miyim? Etme oranım gerçekci gözle geçmiş park deneyimlerime oranla yüzde kaç? Vakit kaybetmek istemiyorum fakat bizlerde çoğunlukla yapay zeka yeteneklerini zor hale getirmeye yönelik bir zihniyet var.
• Ancak basit yapay zeka bile manşetlere çıkabilir.

Kaza tespiti , yapay zeka hayat kurtarabilir ve yardım çağırabilir.
El yıkama tespiti , sizi COVID sırasında güvende ve hijyenik tutar.
Otomatik düzeltme : Bir daha asla utanç verici bir metin göndermeyin:)

6. Etik, önyargı, toplumsal zarar

Bu konuda çok fazla yazım mevcut lütfen öncelikle göz at :)

Yapay zeka etiği geniş kapsamlıdır ancak üç ana temayı içerir:
önyargı,
gizlilik ve
şeffaflık.

(1) Önyargı, mevcut eğitim verilerinin yapay zekanın hizmet vermeyi amaçladığı popülasyonu doğru şekilde temsil etmemesi durumunda ortaya çıkar . Örneğin yapay zeka, işe alım görevlilerinin özgeçmişleri taramasına yardımcı olabilir. Ancak sistemler, geçmişteki başarılı erkek adayların veya eğitim geçmişlerinin özgeçmişlerinde bulunan kalıpları sergileyen özgeçmişlere öncelik vermeyi öğreniyor ve yeterince temsil edilmeyen grupların notunu düşürüyor. Yapay zeka ayrıca hem erkekleri hem de kadınları etkileyen bir hastalık türünün teşhisinin uygulanabilirliğini de değerlendirebilir. Ancak şirketin yalnızca kadınlara ilişkin verileri varsa modeller erkekler için taraflı sonuçlar verecektir. Ve yanıltıcı olacaktır.

(2) Gizlilik, yapay zeka modellerinin güvenli olmasını ve kişisel verileri sızdırmamasını gerektirir .
Yetkisiz erişim, kötüye kullanım veya ihlaller kimlik hırsızlığına, ayrımcılığa vb. yol açabilir. Stanford HAI, veri gizliliği risklerini azaltmak için üç öneri sunuyor. Ann Cavoukian’ın Tasarım Yoluyla Gizlilik ilkeleri, veri gizliliğinin matematiksel bir tanımını da sağlıyor.

(3) Şeffaflık, kullanıcıların yapay zeka modellerinin güçlü yönlerini, sınırlamalarını ve işlevlerini değerlendirmek için nasıl çalıştığını anlamaları gerektiğini önerir.
Açıklanabilir yapay zeka (XAI) alanı, yapay zekanın sağlık hizmetlerinden ceza adaletine kadar yüksek sonuçlu kararları giderek daha fazla desteklemesiyle ortaya çıktı . Artık ‘şeffaflık’, kullanıcı beklentilerini eşitlemeye yönelik bir tasarım modeli olarak geniş çapta kullanılıyor.

Şeffaflık ayrıca, kararların makinenin kritik durumlarda düşünce ve eylemleri açıklayamaması nedeniyle sınırlı olduğu durumlarda insanların akıllı ortaklarını (yapay zekamız) anlamalarına, güvenmelerine ve etkili bir şekilde yönetmelerine olanak tanır.

İki Ayrım

(1) Şeffaf sistemler, mantıklarını insanların anlayabileceği şekilde açıklayabilecek modeller oluşturur.

(2) Yorumlanabilir sistemler şeffaf olmasa da yine de anlaşılabilir ve öngörülebilir modeller oluşturur; derin öğrenme tekniklerinin özellikle son derece karmaşık ve açıklanması zor olabileceğini kabul etmekten geçer.

HCI ve yapay zeka araştırmaları, yapay zeka okuryazarlığına yardımcı olacak birçok kullanıcı merkezli algoritma görselleştirmesi, arayüz ve araç seti üretti incelemenizi kesinlikle öneririm. TensorFlow oyun alanı , Wekinator , AI Açıklanabilirlik 360 Araç Seti , Google’ın Yönleri .

İki kullanıcı türü mevcuttur, her içerik herkes için uygun olamaz ayrılmalıdır.

(1) Kullanıcı merkezli yapay zeka, yapay zeka teknik bilgisi veya uzmanlığı olmayan kişilerin erişebileceği şekilde tasarlanmış sistemleri savunur. Bu bakış açısını somutlaştıran ürünler: Google Teachable Machine , Apple’ın CreateML’i , Microsoft’un Lobe.ai’si , Generative AI araçları.
Belirli araştırmalarımdan bulduğum: Uzman olmayanların nasıl modeller oluşturduğu , ailelerle işbirlikçi makine öğrenimi .

(2) Uzman merkezli yapay zeka, derin bilgiye sahip alan uzmanları için yapay zeka sistemleri geliştirir. GitHub Yardımcı pilotu Salesforce Einstein’a göre sistemler genellikle karmaşık ve özelleştirilebilir. Belirli iş akışlarına ve sınıflandırmaya aşina olan uzmanlar için tasarlanmıştır. Acemiler ve uzman olmayanlar bu sistemlerin nasıl çalıştığını çözerken kayboluyorlar.

Sonuç

Veri Bilimi ve Tasarımı farklı disiplinlerden doğdular. Ancak yapay zeka deneyimleri, kullanıcı deneyimlerini denetlemeye daha yakın hale geldiğinde, yapay zeka ürünlerinde giderek daha fazla bağlantı kuruluyor ve buluşuyoruz.

Endüstri (kar amacı güden), eleştirel düşünme ve istenmeyen sonuçlara yol açan faydalı şeyler yapma konusunda çoğunlukla iyi değiler.
Akademiler (kâr amacı gütmeyen kuruluş) eleştirel düşünmede iyiler, bilgili eleştirmenler gibi davranır, bu yazıda birçok akadmeik kaynaktan da alıntı yaptım.

Yapay zekayı yapabileceklerine göre tasarlayın.
Durumlar arasında
(1) sonuçların yanlış alınması veya risk azaltımı riskinin düşük olduğu,
(2) makinelerin insan hatasını en aza indirebildiği,
(3) yapay zekanın uzman değil stajyer olmasının beklendiği durumlar yer alır.

Yani yapay zeka için İŞBİRLİĞİNE ihtiyaç var. :)

created with DALL-3

Sonraki yazılarda görüşmek üzere!

Lütfen bana bu konuda yazmaktan çekinmeyin, her zaman bir mesaj uzağınızda olacağım.

Beni Linkedin ve Twitter hesaplarımdan da takip edebilirsiniz!🐞