Yapay Zeka Hatasının Bedeli Ağır Oldu!

Yapay zekanın tarım tavsiyesi 25 dönümlük ürünü kuruttu

Yapay zekanın günlük yaşamın yanı sıra tarım alanında da kullanılmaya başlanması, beraberinde yeni riskleri gündeme getiriyor. Çin'de bir çiftçi, yapay zeka uygulamasından aldığı tarım ilacı tavsiyesini herhangi bir uzman görüşü veya farklı kaynakla doğrulamadan uygulayınca 25 dönümlük susam tarlasındaki ürününü kaybetti.

Anhui eyaletine bağlı Chuzhou şehrinde yaşayan 67 yaşındaki çiftçinin, yaklaşık bir yıldır tarımsal faaliyetlerinde yapay zeka yazılımından yararlandığı belirtildi.

Çiftçinin bu süreçte yalnızca ilaçlama konusunda değil, gübreleme ve tarımsal takvim planlaması gibi farklı konularda da yapay zekadan destek aldığı aktarıldı.

Yapay zekadan ilaç tavsiyesi aldı

Çiftçi, susam tarlasında bulunan yabani otlar ve zararlılarla mücadele etmek için hangi yöntemi kullanması gerektiği konusunda yapay zeka uygulamasına danıştı.

Uygulamanın verdiği tavsiyeyi başka kaynaklardan doğrulamayan çiftçi, kendisine önerilen tarım ilacını tarlasında kullandı.

Ancak uygulamanın önerdiği yöntemin ardından beklenmedik bir sonuç ortaya çıktı.

İlaçlama sonrasında tarladaki tüm filizlerin kuruduğu bildirildi. Böylece çiftçinin yaklaşık 25 dönümlük susam tarlasındaki ürünler zarar gördü.

Uzmanlar zararın nedenini açıkladı

Çiftçinin yaşadığı olayın ardından ziraat uzmanları tarafından yapılan değerlendirmelerde, ürünlerdeki zararın kullanılan ilaçla bağlantılı olduğu belirtildi.

Uzmanlar, hatanın “flufenaset” adlı ot ilacından kaynaklandığını ifade etti.

Söz konusu etken maddenin yabancı otlarla mücadelede kullanılabildiği ancak doğru ürün, doğru doz ve uygun uygulama koşullarının büyük önem taşıdığı vurgulandı.

Uzmanlara göre flufenaset etken maddesi hedefli ve doğru şekilde kullanılmadığında susam tarlalarına zarar verebiliyor.

Çiftçinin yaşadığı olayda ise yapay zekanın verdiği tavsiyenin tarımsal koşullar açısından yeterince değerlendirilmeden uygulanması, ciddi ürün kaybına yol açtı.

Uygulamanın ekranında uyarı da yer alıyordu

Olayın dikkat çeken bir başka yönü ise çiftçinin kullandığı yapay zeka uygulamasında bilgi güvenilirliğiyle ilgili uyarının bulunması oldu.

Uygulamanın ekranında “Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın” şeklinde bir uyarının yer aldığı bildirildi.

Buna rağmen verilen tarım ilacı tavsiyesinin farklı kaynaklardan veya uzmanlardan teyit edilmeden uygulanması, çiftçinin ürünlerini kaybetmesine neden oldu.

Yaşanan olay, özellikle tarım gibi doğrudan maddi sonuç doğurabilecek alanlarda yapay zeka tarafından üretilen bilgilerin kontrol edilmesinin önemini yeniden gündeme getirdi.

Yapay zeka tavsiyelerinde doğrulama uyarısı

Yapay zeka uygulamaları çok sayıda konuda hızlı şekilde bilgi sağlayabiliyor. Ancak oluşturulan yanıtların her durumda doğru veya güvenilir olmayabileceği konusunda uygulamaların kendileri de kullanıcıları uyarıyor.

Tarımda kullanılacak ilaçların belirlenmesi ise yalnızca genel bilgiyle karar verilebilecek bir konu değil. Ürünün türü, zararlı veya yabancı otun çeşidi, ilacın etken maddesi, dozajı, uygulama zamanı ve bölgesel koşullar gibi birçok unsurun birlikte değerlendirilmesi gerekiyor.

Bu nedenle yapay zeka tarafından verilen bir tavsiyenin doğrudan uygulanması yerine, ziraat mühendisleri, tarım uzmanları ve resmi tarım kaynakları üzerinden doğrulama yapılması önem taşıyor.

Yapay zeka kaynaklı sağlık riskleri de gündeme gelmişti

Yapay zeka tarafından verilen bilgilerin doğrulanmadan uygulanmasının oluşturabileceği riskler yalnızca tarımla sınırlı değil.

Daha önce sağlık alanında da benzer bir olay yaşandığı belirtildi. Geçtiğimiz yıl bir kullanıcı, sofra tuzu tüketimini azaltma tavsiyesi üzerine yapay zekanın yönlendirmesiyle gıdalarına sodyum bromür ekledi.

Söz konusu kişinin yaklaşık üç ay boyunca bu kimyasalı tükettiği, sonrasında ise brom zehirlenmesi nedeniyle hastaneye kaldırıldığı aktarıldı.

Kişinin hastanede psikoz tedavisi gördüğü bildirildi.

Bu olay da yapay zeka tarafından üretilen sağlık bilgilerinin uzman görüşü olmadan uygulanmasının ciddi sonuçlara yol açabileceğini ortaya koydu.

Bilimsel incelemelerde de dikkat çekildi

Yapay zeka uygulamalarının bilgi üretme kapasitesinin artması, bu sistemlerin oluşturduğu hatalı veya yanıltıcı içeriklerin nasıl ele alınması gerektiği konusunda bilim dünyasında da tartışılıyor.

Annals of Internal Medicine dergisinde yayımlanan bir incelemede, yapay zeka uygulamalarının bilimsel açıdan hatalı bilgiler üretebileceğine ve bu durumun bilgi kirliliğine yol açabileceğine dikkat çekildi.

Çin'deki çiftçinin yaşadığı olay da bu riskin yalnızca teorik olmadığını, yapay zeka tarafından verilen hatalı veya uygun olmayan bir tavsiyenin gerçek hayatta doğrudan maddi kayıplara neden olabileceğini gösterdi.

Yapay zeka kullanılırken uzman desteği önem taşıyor

Yapay zeka uygulamaları tarımda planlama, bilgi araştırma ve farklı konularda fikir edinme amacıyla kullanılabilir. Ancak özellikle tarım ilacı, gübre, sağlık ve benzeri yüksek risk taşıyan konularda verilen bilgilerin uzmanlar tarafından değerlendirilmesi gerekiyor.

Çin'deki olayda da çiftçinin uygulamadaki uyarıyı dikkate alarak tavsiyeyi farklı kaynaklardan doğrulaması halinde ürün kaybının önüne geçilip geçilemeyeceği bilinmiyor. Ancak uzmanların açıklamaları, kullanılan ilacın susam bitkisine zarar verebileceğini ortaya koyuyor.

25 dönümlük susam tarlasının zarar görmesi, yapay zekanın sunduğu bilgilerin kullanılmasında doğrulama ve uzman kontrolünün önemini bir kez daha gündeme taşıdı.