Hukom sa Washington: Bawal ang AI-Enhanced na Video bilang Ebidente sa Kaso ng Triple na Pagpatay

pinagmulan ng imahe：https://www.nbcnews.com/news/us-news/washington-state-judge-blocks-use-ai-enhanced-video-evidence-rcna141932

Isang hukom sa estado ng Washington na namamahala sa isang kaso ng triple na pagpatay ang nagbigay ng desisyon na nagbabawal sa paggamit ng video na pinalakas ng artipisyal na intelihensiya bilang ebidente, isang ruling na sinasabing maaaring ito ang kauna-unahang tulad nito sa isang kriminal na hukuman sa Estados Unidos.

Ang desisyon, na nilagdaan noong Biyernes ni King County Superior Court Judge Leroy McCullogh at unang iniulat ng NBC News, ay inilarawan ang teknolohiya bilang bagong mayroon at nagsabing ito ay umaasa sa “opake na mga pamamaraan upang ilarawan kung ano ang “isip” ng AI model na dapat ipakita.”

“Ito ay natagpuan ng Hukuman na ang pagtanggap ng ebidensyang pinalakas ng AI ay magdudulot ng kalituhan sa mga isyu at makakagulo sa testimoniya ng mga nasaksihan, at maaaring magresulta sa isang trial na labis na nakakaburo ng oras tungkol sa proseso na hindi peer-reviewed na ginamit ng AI model,” isinulat ni Judge McCullogh sa ruling na naipost sa docket noong Lunes.

Ang ruling na ito ay naganap sa gitna ng mabilis na pag-unlad ng artipisyal na intelihensiya at mga gamit nito — kabilang ang paglaganap ng mga deepfake sa social media at mga kampanya sa politika — at habang ang mga mambabatas mula sa estado at pederal ay humaharap sa mga posibleng panganib na dulot ng teknolohiyang ito.

Ang mga abogado para sa isang lalaki na inakusahan ng pagbukas ng putok sa labas ng isang bar sa lugar ng Seattle noong 2021, na nagresulta sa pagkamatay ng tatlong tao at pagkasugat ng dalawa, ay naghangad na ipasok ang video mula sa cellphone na pinalakas ng software na machine learning, ayon sa mga dokumento ng hukuman.

Ang machine learning ay isang partikular na larangan sa loob ng artipisyal na intelihensiya na naging tanyag sa mga nakaraang taon bilang pundasyon ng karamihan ng modernong mga sistema ng AI.

Inangkin ng mga akusado na si Joshua Puloka, 46, ang pagtatanggol sa sarili sa mga pagpatay noong Setyembre 26, na mayroong pahayag mula sa kanyang mga abogado na siya ay nagtatangkang pawala ng tensyon sa isang marahas na sitwasyon nang siya ay inatake at ang putok ng baril ay sumiklab.

Tinamaan niyang muli ng putok, na nagresulta sa pagkamatay ng mga walang kalaban-laban na tao, ayon sa pahayag. Ang lalaki na inakusahan ng pag-atake kay Puloka ay napatay din, ayon sa isang pahayag ng probable cause.

Ang nakamamatay na engkwentro ay naitala sa video mula sa cellphone. Upang i-enhance ang video, ang mga abogado ni Puloka ay humingi ng tulong mula sa isang lalaki na wala pang karanasan sa mga kasong kriminal ngunit may background sa malikhaing produksyon ng video at pag-edit, ayon sa filing ng mga prosecutor.

Ang software na ginamit niya, na binuo ng Topaz Labs na nakabase sa Texas, ay nagsasabing ang kanilang software ay ginagamit ng mga studio ng pelikula at iba pang mga propesyonal sa malikhaing larangan upang “supercharge” ang video, ayon sa filing.

Ang mga abogado ni Puloka ay hindi tumugon sa mga hiling na komento. Sa isang pahayag, sinabi ng isang tagapagsalita para sa Topaz Labs na ang kumpanya ay “matinding” nagpapayo laban sa paggamit ng kanilang teknolohiya ng AI para sa forensic o legal na mga aplikasyon.

Sinabi ng opisina ng prosecutor na ang pinalakas na video ay nagpredikta ng mga imahe sa halip na sumasalamin sa sukat, hugis, mga gilid at kulay na nakuha sa orihinal na video. Ang mga pinalakas na imahe ay “hindi tumpak, nakakapanlinlang, at hindi mapagkakatiwalaan,” ayon sa filing.

Sa isang deklarasyon para sa prosekusyon na kasama sa filing, isang forensic video analyst na nag-review sa orihinal at pinalakas na mga recording ang nagsabi na ang pinalakas na bersyon ay naglalaman ng visual data na wala sa orihinal.

Ang data ay tinanggal din mula sa pinalakas na bersyon, ayon sa ekspertong si Grant Fredericks.

“Bawat pixel sa AI-generated na video ay bago, na nagresulta sa isang video na maaaring mas pleasing sa mata ng isang karaniwang observer, ngunit naglalaman ng ilusyon ng kalinawan at nadagdagan ang resolusyon ng imahe na hindi tumpak na kumakatawan sa mga pangyayari sa orihinal na eksena,” isinulat ni Fredericks sa deklarasyon.

Sa isang hiwalay na filing, ang mga abogado ni Puloka ay tumutol na ang mga ganitong pahayag ay “exaggerated at overblown.” Ang isang paghahambing sa dalawa na video ay nagpapakita na ang pinalakas na bersyon ay isang “tapat na paglalarawan ng orihinal,” ayon sa filing. “At iyon ang mahalaga.”

Sa kanyang deklarasyon, sinabi ni Fredericks, na nagturo para sa FBI at nagtrabaho bilang video analyst sa loob ng 30 taon, na hindi siya aware sa mga naisagawang peer-reviewed publications na nagtatatag ng tinatanggap na metodolohiya para sa AI video enhancements.

Walang nakatala ang FBI sa paksa sa kanilang best practices para sa paghawak ng forensic video, ayon sa kanyang pahayag.

Si George Reis, isang dating imbestigador ng crime scene at matagal nang forensic video analyst sa Southern California, ay nagsabi na may alam siyang ilang halimbawa ng artipisyal na intelihensiya na ginamit bilang potensyal na tool sa imbestigasyon upang linawin ang mga larawan ng license plate.

Isang kumpanya na bumuo ng ganitong software, ang Amped, ay nagsabi sa isang post noong Pebrero na ang artipisyal na intelihensiya ay hindi sapat na mapagkakatiwalaan upang gamitin para sa image enhancement sa isang legal na setting. Itinuro ng kumpanya ang opake na resulta ng teknolohiya at posibleng biased na kinalabasan.

“Ito ay isang nobelang agham,” sabi ni Reis. “Dapat magkaroon ng pananaliksik bago ito gamitin sa aktwal na trabaho ng kaso. Dapat itong peer-reviewed. Hindi ako sigurado kung anong antas ang magiging angkop sa hinaharap para sa paggamit ng AI sa aktwal na paglilinaw ng isang still photograph o video, ngunit sa puntong ito, maaga pa.”