BT şefleri yapay zeka yanlılığı risklerini kabul ediyor

BT karar vericilerin yapay zeka (AI) önyargılarının giderek daha fazla farkına varmaya başladıkları.

Data Robot’un araştırmasına göre, ABD ve İngiltere’deki AI profesyonellerinin neredeyse yarısı (% 42), AI önyargısı konusunda “son derece” endişeli olduklarını söylüyor.

DataRobot en AI önyargısının durumu 2019 Çalışma, çoğu kurumun (% 71) şu anda 19’a kadar iş fonksiyonunu yerine getirmek için AI’ya güvendiğini tespit etti.

DataRobot’taki güvenilir AI başkan yardımcısı Ted Kwartler, “Teknolojiyi günümüzün iş ortamında rekabet etmek için kritik bir başarı faktörü olarak tanıdığı için daha fazla kuruluş AI kullanıyor.” Dedi.

Ankete katılan BT karar vericilerinin neredeyse beşte biri AI’nın 20 ila 49 işletme fonksiyonunu tamamlamak için kullanıldığını ve% 10’unun da 50’den fazla işletme fonksiyonunu tamamlamak için AI kullandığını söyledi.

DataRobot’un araştırması, AI’nın kuruluşlar tarafından operasyonlar (% 76), finans ve muhasebe (% 54), pazarlama (% 49), satışlar (% 47) ve insan kaynakları (% 35) dahil olmak üzere departmanlar arasında işlev yürütmek için kullanıldığını tespit etti.

Kwartler, “AI olgunluğunun, hala güvenilmez AI sistemleri kullanan birçok kuruluşla birlikte büyük ölçüde değiştiğini gözlemledik” dedi.

Ankete katılan BT yöneticileri için en büyük AI önyargısı, “ödüllendirilmiş marka itibarı” ve “müşteri güven kaybı” dır.

DataRobot’ta AI Stratejisi Başkan Yardımcısı Colin Priest şunları söyledi: “Birçok kuruluş, AI kutularını azaltma yönünde doğru adımları atmaya başlamış olsa da – kara kutu sistemlerinden uzaklaşma ve dahili AI kılavuzlarını oluşturma gibi – yapılacak daha çok şey var. işletmelerin ve tüketicilerin güvenini kazanmak.

“Her işletme AI önyargı eğitimini bir öncelik haline getirmelidir, böylece AI sistemlerinde gerçekleşmesini önlemeye yardımcı olacak kritik stratejiler uygulayabilirler.”

Katılımcılar tarafsız AI algoritmaları geliştirmede, AI modellerini hangi verilere göre eğitmek ve girdi verilerinin AI kararlarıyla nasıl ilişkili olduğunu anlamada zorluklarla karşılaştıklarını söylediler.

Ankette BT karar vericilerin% 65’inin AI’nın neden olumsuz kararlar aldığını keşfetmek için araçlar kullandığı bulundu. Neredeyse üçte ikisi, hangi girdi verilerinin AI kararı üzerinde en büyük etkiye sahip olduğunu kontrol etmek için araçlar kullandıklarını söyledi. Sadece yarısından fazlası, metin girişinin AI kararlarıyla nasıl ilişkilendirildiğine bakmak için kelime bulutları kullandıklarını söyledi.

Anket, ABD bilişim liderlerinin% 94’ünün ve İngiltere bilişim liderlerinin% 86’sının önümüzdeki 12 ay içinde AI önyargılarını önleme girişimlerine daha fazla yatırım yapmayı planladığını bildirdi.

AI’nın önyargı önleme çabalarını geliştirmek için, ankete katılan BT karar vericilerin% 59’u AI kararlarının açıklanabildiği daha sofistike beyaz kutu sistemlerine yatırım yapmayı planladıklarını söyledi. Yarısından fazlası (% 54), AI güvenini yönetmek için iç personel istihdam edeceklerini söyledi ve% 48’i, üçüncü taraf firmaları AI güvenini denetlemek üzere almak istediklerini söyledi.

Ankette ayrıca ankete katılan BT liderlerinin% 85’inin AI düzenlemesinin neyin önyargısını oluşturduğunu ve nasıl önlenmesi gerektiğini daha iyi tanımlamak için yardımcı olacağına inandıkları bildirildi.