Yazılımdaki en yeni trendlerden biri, sonuçlarına nasıl ulaştığını açıklayan yapay zeka (AI) olabilir.

Açıklanabilir AI, yazılım şirketleri AI'yı daha anlaşılır hale getirmeye çalıştıkça karşılığını veriyor. LinkedIn , müşterilerin iptal etme riskiyle karşı karşıya olduğunu tahmin eden ve sonuçlara nasıl ulaştığını açıklayan yapay zekayı kullandıktan sonra abonelik gelirini kısa süre önce artırdı .

SynerAI CEO'su ve Microsoft Finansal Hizmetler Baş Veri Bilimi Travis Nixon bir e-posta röportajında ​​Lifewire'a verdiği demeçte, "Açıklanabilir AI, çıktıya güvenebilmek ve makinenin oraya nasıl geldiğini anlamakla ilgilidir."

"'Nasıl?' birçok AI sistemine sorulan bir sorudur, özellikle de ideal olmayan kararlar alındığında veya çıktılar üretildiğinde, "diye ekledi Nixon. "Farklı ırklara adaletsiz davranmaktan kel bir kafayı futbolla karıştırmaya kadar, AI sistemlerinin neden sonuçları ürettiğini bilmemiz gerekiyor. "Nasıl"ı anladığımızda, şirketleri ve bireyleri "sırada ne?" sorusuna yanıt verecek şekilde konumlandırıyor."

AI'yı Tanımak

AI doğru olduğunu kanıtladı ve birçok tahminde bulundu. Ancak AI genellikle sonuçlara nasıl ulaştığını açıklayabilir.

Ve düzenleyiciler, AI açıklanabilirlik sorununu dikkate alıyor. Federal Ticaret Komisyonu, açıklanamayan yapay zekanın araştırılabileceğini söyledi . AB, kullanıcıların AI tahminlerini yorumlayabilmesi için gerekli şartları içeren Yapay Zeka Yasası'nın geçişini düşünüyor .

Linkedin, açıklanabilir yapay zekanın karı artırmaya yardımcı olabileceğini düşünen şirketler arasında yer alıyor. Daha önce, LinkedIn satış görevlileri bilgilerine güveniyordu ve hangi hesapların iş yapmaya devam edeceğini ve bir sonraki sözleşme yenileme sırasında hangi ürünlerle ilgilenebileceklerini belirlemek için çevrimdışı verileri gözden geçirmek için büyük miktarda zaman harcadılar. Sorunu çözmek için LinkedIn, trendleri belirleyen ve satış görevlilerine yardımcı olan CrystalCandle adlı bir program başlattı.

Başka bir örnekte, Nixon, bir şirketin satış gücü için bir kota belirleme modelinin oluşturulması sırasında, şirketinin, başarılı bir yeni satış işe alımına işaret eden özellikleri belirlemek için açıklanabilir yapay zekayı dahil edebildiğini söyledi.

"Bu çıktıyla, bu şirketin yönetimi, herhangi bir büyük sorun ortaya çıkmadan önce, hangi satış görevlilerinin 'hızlı yola' koyulacağını ve hangilerinin koçluğa ihtiyaç duyduğunu fark edebildi" diye ekledi.

Açıklanabilir Yapay Zeka için Birçok Kullanım

Nixon, Açıklanabilir AI'nın şu anda çoğu veri bilimci için içgüdüsel bir kontrol olarak kullanıldığını söyledi. Araştırmacılar, modellerini basit yöntemlerle çalıştırıyorlar, hiçbir şeyin tamamen bozuk olmadığından emin oluyorlar ve ardından modeli gönderiyorlar.

Nixon, "Bu, kısmen, birçok veri bilimi kuruluşunun sistemlerini bir KPI olarak 'değerden çok zaman' etrafında optimize etmesinden ve aceleci süreçlere ve eksik modellere yol açmasından kaynaklanmaktadır," diye ekledi.

İnsanlar genellikle yapay zekanın açıklayamadığı sonuçlara ikna olmazlar. Cogito'nun Baş Mühendislik Sorumlusu Raj Gupta , bir e-postada, şirketinin müşterilerle anket yaptığını ve şirketlerin kullanımları konusunda daha açık olmaları durumunda tüketicilerin yaklaşık yarısının (%43) bir şirket ve yapay zeka hakkında daha olumlu bir algıya sahip olacağını bulduğunu söyledi. teknolojinin.

Ve açıklanabilir yapay zekadan yardım eli alan sadece finansal veriler değil. Stevens'ta doçent olan Samantha Kleinberg , yeni yaklaşımdan yararlanan alanlardan biri, algoritmanın bir görüntünün hangi bölümlerinin gerekli olduğunu düşündüğünü belirtmenin kolay olduğu ve bir insanın bu bilginin anlamlı olup olmadığını bilmesinin kolay olduğu görüntü verileridir.

Kleinberg, "Bunu bir EKG veya sürekli glikoz izleme verileriyle yapmak çok daha zor" diye ekledi.

Nixon, açıklanabilir yapay zekanın gelecekte her yapay zeka sisteminin temeli olacağını öngördü. Ve açıklanabilir AI olmadan, sonuçların korkunç olabileceğini söyledi.

"Umarım bu cephede, gelecek yıllarda açıklanabilir yapay zekayı kabul edecek kadar ilerleriz ve o zamana bugün geriye dönüp baktığımızda, herhangi birinin anlamadığı modelleri dağıtacak kadar çılgın olacağına şaşırmış durumdayız" diye ekledi. "Geleceği bu şekilde karşılamazsak, sorumsuz modellerin geri tepmesinin AI endüstrisini ciddi bir şekilde geri getirebileceğinden endişeleniyorum."