Açıklanabilir Yapay Zeka Nedir?

Gelişen teknoloji ile beraber son yıllarda en çok tartışılan konulardan biri şüphesiz yapay zeka olmuştur. Yapay zeka; insanların düşünce sistemlerini taklit ederek, öğrenme ve problem çözme gibi yeteneklere sahiptir. Hızlı kararlar alabilen bu sistemler günlük yaşantımızda büyük kolaylıklar sağlamaktadır. Ancak her ne kadar yaşantımızı kolaylaştırsa da aldığı kararların dayanaklarını kullanıcıya sunmaması yapay zekaya olan güveni sarsmaktadır.

İnsanlar, verilen kararların güvenilir olduğundan emin olmak için bazı kanıtlara ihtiyaç duyar. Açıklanabilir yapay zeka sistemleri kararları belirli dayanaklar ile kullanıcıya sunmakta ve böylelikle yapay zekaya olan güven duygusunu sağlamaya çalışmaktadır. Gelin bu kavramı daha yakından inceleyelim..

Weeb | Yapay Zekâ Mühendisliği Nedir? | weebgroup.com

Yapay zeka kavramı ilk kez 1956 yılında Prof. Dr. John McCarthy tarafında ortaya atılmıştır. Günümüzde birçok sektörde sıklıkla kullanılmaktadır. Yıllar içerisinde makine öğrenmesi ve derin öğrenme algoritmaları geliştirilerek kullanılabilirliği kolaylaşmıştır. Son yıllarda yapılan çalışmalar ile yapay zeka sistemlerinin gerekçelerini açıklama, iyi ve kötü yönlerini belirleme ve gelecekteki davranışlarını anlamaya çalışma hedeflenmektedir. Bu hedefler doğrultusunda açıklanabilir yapay zeka sistemleri ile ilgili yapılan çalışmalar hız kazanmıştır.

Açıklanabilir yapay zeka; yapay zeka sistemlerinin kara kutusunu şeffaflaştırarak çıktıların daha rahat yorumlanabilmesine olanak sağlamaktadır. Yapay zeka sistemlerine nazaran açıklanabilir yapay zeka sistemleri çıktılarını nedenleri ile beraber kullanıcıya sunmaktadır. Örneğin sağlık sektöründen yola çıkacak olursak, yapay zeka sistemleri hastaya ait verileri arka planında kullanıp sonuç olarak bir hastaya kanser hastası olup olmadığı ile ilgili bilgi verebilir. Ancak yapay zeka sistemleri hasta verilerini daha şeffaf şekilde yorumlayarak hastaya kanser olup olmadığı ile ilgili bilginin yanı sıra bu sonucu hangi verilere dayandırarak verdiği ile ilgili de bir çıktı sunmaktadır. Bu çıktılar metinsel veya görsel olabilir.

Açıklanabilir yapay zeka sistemlerinin avantajları

Açıklanabilir Yapay Zeka Nedir ve İhtiyaç Mıdır? | by Ayyüce Kızrak | Medium

Açıklanabilir yapay zeka sistemleri:

-Modelleri nedenleri ile açıklayarak izlenebilirliği ve yorumlanabilirliği kolaylaştırır.

-Yapay zekaya olan güvenin artmasını sağlar.

-Çıktıları grafikleştirerek daha kolay görsel analiz yapılmasını sağlar.

-En uç noktalardaki farkların rahatlıkla görülmesini yardımcı olur.

-Eğer sonuçlarda bir hata varsa kolay bir şekilde farkedilmesini sağlar.

-Sistemin başarı ile çalışıp çalışmadığının kontrolü sağlanmış olur.

Açıklanabilir yapay zeka sistemleri yüksek düzeyde öğrenme performanslarını korurken daha açıklanabilir modeller üretmeyi ve kullanıcıların yapay olarak adlandırılan akıllı iş ortaklarını daha kolay şekilde anlamalarını kolaylaştırmayı hedefler. Yapay zeka sistemleri sinir ağlarından oluşmaktadır. Sinir ağlarının karmaşıklığı arttıkça açıklanabilirlik azalmaktadır.

Makine öğrenmesi ve derin öğrenme sistemlerinde verinin yüzde yetmişi eğitim verisi olarak kullanılırken yüzde otuzu test verisi olarak kullanılmaktadır. Eğitim veri setinde kara kutu, makineye tanımlanan birçok veriyi işleyerek bir öğrenme sağlar. Ancak kara kutudan çıkan sonuçların neye dayandırılarak verilldiği ile ilgili bir çıktı mevcut değildir. Bunun yanı sıra açıklanabilir yapay zeka sistemleri, cam kutu olarak tanımlanmaktadır ve şeffaf bir yapıya sahiptir. Bu modellerde çıktılar, kullanıcıya bir arayüz ile sunulmaktadır. Bu arayüzde çıktı sonucu görsel ve metinsel olarak destekler içerir.