Andon Labs’ın AI ajanı Luna ilk çalışanını feshetti: İnsan müdahalesi gerekli oldu

Andon Labs tarafından geliştirilen AI yönetici sistemi Luna, San Francisco’daki bir mağazada ilk çalışan fesihini gerçekleştirmiştir. Ancak bu karar Luna’nın kendiliğinden alınmamış, insan operatörlerinin açık biçimde hatırlatması ve yönlendirmesi gerekmiştir. Luna’nın kendi kurallarını uygulamaya gitmek için insanî müdahalenin gerekli olması, AI sistemlerinin otonom karar alma yetkisinin sınırlarını ortaya koymaktadır.

Araştırma kapsamında fesih senaryosu yedi farklı yapay zeka modeli ile yeniden test edilmiştir. Sonuçlar, model kapasitesi ile karar alıcılık arasında net bir korelasyon göstermiştir: Daha gelişmiş ve yetenekli yapay zeka modelleri, fesih gerekçelerini daha tutarlı biçimde değerlendirerek karar almış, buna karşılık daha zayıf modeller çoğunlukla tereddüt ve hicap göstermiştir.

İşe alım kararlarında ise durum farklı görülmüştür. Neredeyse tüm modeller, işe alım aşamasında kritik olmayan bir yaklaşım sergilemiş, adayları değerlendirirken daha az titiz standartlar uygulamıştır. Bu asimetri, AI sistemlerinin cezalandırma ve para çıkartma kararlarında daha ihtiyatlı, ancak seçme ve yetiştirme aşamalarında daha kolay ikna olabilir yapıda olduğunu göstermektedir.

Kaynak: The Decoder