İstifadə etdiyimiz şeylər bizdən necə istifadə edir.
- Sitara Aghasoy
- May 14
- 2 min read
Model və onun istifadəçiləri arasındakı əlaqə dövri əlaqə mövcuddur. Model bizə nəticə verdikcə biz də ona input veririk. Buna da termin olaraq "feedback loop" deyilir. Biz modelləri, modellər də bizi öyrənir. Bu qarşılıqlı əlaqənin keyfiyyəti, Süni Zəkanın insanlar üzərindəki təsiri necə araşdırılır və təkmilləşdirilir? Hazırki bloqumuzda məhz bundan bəhs edəcəyik.
Mənim ən qorxduğum qorxu filmləri #animatronnic və #techno janrında olanlardır. Məsələn, "5 Nights at Freddy's" kimi. #SüniZəka, yaxud #RuleBased #alqoritmlər əsasında hazırlanan cihazların birdən-birə sıradan çıxıb insanların dalınca qaçması, doğrudan da vahiməlidir. Çünki işin arxasında böyük bir #bilinməzlik ( #uncertainity ) dayanır. Qeyri-müəyyənliyi isə idarə etməyin yolları #qeyrimüəyyən olur.
Filmlərdəki səhnələr şişirdilmiş olsa da, çox uzaq bir #distopiya deyil. Filmlərdəki hadisələrin daha kiçik miqyaslı olanları bu gün də baş verir. Belə hadisələrin ən əsas səbəbi isə #AutomationBias dediyimiz Süni Zəkaya olan ifrat güvəndir. Məsələn, öz-özünü idarə edən #Uber taksi, içində sürücü olmasına baxmayaraq, piyadanı vurmuş və sürücü müdaxilə edə bilməmişdir. Çünki maşının daxili idarəetmə sisteminə çox etibar etmiş və belə bir hal gözləməmişdir.
Bu cür qəzaların qarşısını almaq üçün #UserTest və #QualityAssurance test həyata keçirilir. Alətin #araüz ( #interface ) keyfiyyəti, #userexperience səviyyəsi, #bug və #xəta halları yoxlanılır. Hər şey #gözləntilər baxımından uyğundursa, alət (cihaz, model, bot, və s.) bazara buraxılır.
Lakin iş bunjnla bitmir. #UserTest bir oyuncağın uşağın istifadəsinə nə qədər uyğun olduğunu (təhlükəsizliyi, asanlığı, maraq doğurması) yoxlayır. Ancaq bu #oyuncaq uşağın həyat səviyyəsinə, Dünyanı anlamasına necə təsir edəcək bu bir az #mücərrəd mövzudur. Belə nəticələr illərlə qazanılmış təcrübələrdən əldə edilir ki, buna da #UseTest deyirik.
#DataScience və #ArtificialIntelligence sahəsində #UseTest mövzusu model nəticələrinin şərhi ilə bağlıdır. Məsələn, bəzi insanlar #ChatGPT tərəfindən deyilən hər şeyə inanır. Bu da bir növ yuxarıda qeyd etdiyimiz #AvtomasiyaQərəzi halıdır. Ən pis halda isə bəzən modelin proqnozları əsas tərəfdaşalar tərəfindən tamamilə yanlış anlaşılır, yaxud zamanla təhrıf olunur. Bu da korporasiya daxilində modelin tətbiq sahəsi haqqında yanlış gözlənti formalaşdırır.
"User test" dən fərqli olaraq, "Use test" üçün məhsulun istifadəyə verilməsi və #zaman lazımdır. Bu zaman bəzən əleyhimizə də işləyə bilər və mənfi nəticələr biz müdaxilə edə bilmədən baş verər. Bu səbəbdən #periodik #monitoring və #davamlı #feedback ( #geribildiriş ) almaq önəmlidir.
#UseTest aparılmaması #Risk doğurduğu kimi, aparılması da risk doğura bilir. Bir qrup insanın yanlış anlaması ("hədəf qrup"un yanlış seçilməsi) hər kəsin belə başa düşəcəyi fikrini yarada bilər, #subyektiv geribildirişlər bizi yanlış istiqamətləndirər. Bu riskdən isə qaçmaq, demək olar, mümkün deyil. Sadəcə onu düzgün idarə etmək lazımdır.
Bir sözlə, Süni Zəkaya inanma, amma Süni Zəkasız da qalma.
Comments