ABD'de kolluk kuvvetlerinin polis raporu yazımından yüz tanımaya kadar birçok alanda yapay zekayı (YZ) kullanma eğilimi, ciddi tartışmaları da beraberinde getiriyor. Bu durumun en çarpıcı örneklerinden biri, Utah eyaletindeki Heber City'de yaşandı. Heber City Polis Teşkilatı, bir YZ destekli rapor yazılımının, polis memurunu raporun sonunda adeta "kurbağaya dönüştürdüğünü" fark edince kamuoyuna açıklama yapmak zorunda kaldı.
Disney Filmi Rapora Karıştı
Fox 13'ün haberine göre, bu ilginç hatanın kaynağı, polis memurunun vücut kamerası kaydında arka planda çalan bir film oldu. Heber City Polis Teşkilatı'ndan Çavuş Rick Keel, rapor yazılımının, olay anında arka planda açık olan Disney'in 2009 yapımı müzikali "Prenses ve Kurbağa" filminden gelen sesleri yanlış yorumladığını belirtti. Keel, "Vücut kamerası yazılımı ve YZ destekli rapor yazma programı, arka planda oynayan filmi algıladı. İşte o an, YZ tarafından üretilen raporların mutlaka gözden geçirilmesi gerektiğini anladık" şeklinde konuştu. Bu olay, teknolojinin beklenmedik sonuçlar doğurabileceğini bir kez daha gözler önüne serdi.
Yapay Zeka ile Verimlilik Artırma Hedefi
Söz konusu yazılım, polis teknolojileri şirketi Axon tarafından geliştirildi. OpenAI'ın GPT büyük dil modellerini kullanan bu araç, Draft One adıyla biliniyor. Axon aynı zamanda elektroşok silahlarının da üreticisi konumunda. Teşkilat, Draft One'ı vücut kamerası görüntülerinden otomatik olarak polis raporu oluşturmak ve memurların evrak yükünü azaltmak amacıyla test etmeye başlamıştı. Ancak Fox 13'e göre, yalnızca yazılımı tanıtmak için yapılan basit bir "trafikte araç durdurma" senaryosu bile ciddi hatalarla dolu bir rapor ortaya çıkardı ve kapsamlı düzeltmeler gerektirdi. Buna rağmen Çavuş Keel, yazılımın kendisine haftada yaklaşık altı ila sekiz saat zaman kazandırdığını savundu. Keel, "Teknoloji konusunda çok yetkin biri sayılmam ama kullanımı oldukça kolay" ifadelerini kullandı.
Şeffaflık ve Denetim Endişeleri
Electronic Frontier Foundation (EFF) tarafından yapılan son bir inceleme, bu tür teknolojilerin kullanımına yönelik tartışmaları daha da derinleştirdi. EFF'ye göre Draft One, kamu denetimini zorlaştıracak şekilde tasarlanmış olabilir. Kuruluşun ulaştığı kayıtlara göre, çoğu zaman bir polis raporunun hangi bölümlerinin yapay zeka tarafından üretildiğini, hangilerinin ise memur tarafından yazıldığını ayırt etmek mümkün olmuyor. Bu durum, kamu denetimi açısından önemli bir sorun teşkil ediyor. Vakfın raporunda, "Axon ve müşterileri bu teknolojinin polisliği dönüştüreceğini iddia ediyor. Ancak bunun ceza adalet sistemini nasıl değiştireceği ve en çok kime fayda sağlayacağı henüz belirsiz" ifadeleri yer aldı. Bu belirsizlik, teknolojinin yaygınlaşmadan önce daha fazla şeffaflık ve güvenlik önlemleri gerektirdiğini vurguluyor. Yapay zekanın polislikteki rolü, hem verimlilik hem de etik ilkeler açısından dikkatle incelenmelidir. Bu tür hatalar, teknolojinin insan kontrolünden çıkmadan, sorumlu bir şekilde kullanılması gerektiğini gösteriyor. Konuyla ilgili daha fazla bilgi için yapay zeka kavramını inceleyebilirsiniz.