1. 首頁 > 生活百科 > 科技 > >

|谷歌AI“誤診”，讓醫療事件上升為刑事案件！

|谷歌AI“誤診”，讓醫療事件上升為刑事案件！

文章圖片

|谷歌AI“誤診”，讓醫療事件上升為刑事案件！

文章圖片

|谷歌AI“誤診”，讓醫療事件上升為刑事案件！

文章圖片


加利福尼亞州的一位全職奶爸 ， 因為他遵循醫囑拍攝了他生病的孩子的照片 ， 就被谷歌的AI兒童性虐待過濾器“抓住” ， 引發了噩夢般的連鎖反應 ， 最終以警方調查告終 。


不僅如此 ， 谷歌已將這些照片標記為有害內容 ， 并且禁用了這位父親的電子郵件、聯系人和照片的帳戶 ， 即使在他提出上訴后仍然拒絕撤銷他們這一荒唐的決定 。
小孩的醫療照成了AI逮捕他的證據
馬克是一名前軟件工程師 ， 因兒子下體腫脹 ， 疼痛難忍 ， 于是在接受第二天的視頻醫療咨詢后 ， 他們按照護士的建議 ， 拍了幾張兒子感染處的照片并上傳到醫院所在的醫療系統中 。

很快 ， 在照片的幫助下 ， 醫生診斷并開了抗生素 ， 得到救治的兒子也痊愈了 。 此時兒子的病雖然治好了 ， 但谷歌的AI卻檢測到他爹有“大病”！沒過兩天 ， 因“嚴重違反谷歌政策且可能違法”的“有害內容” ， 馬克的谷歌賬戶被禁用 。
此時經由報道后 ， 很多人認為馬克被困在了一個算法網絡中 ， 這個網絡是為了“誘捕”人們交換兒童性虐待材料而設計的 。 然后 ， 馬克收到了舊金山警察局的一封信 ， 要求訪問他的互聯網搜索消息 ， 位置歷史記錄 ， 視頻 ， 照片以及其他文件 。 但由于他的賬號全部被封禁 ， 導致調查人員一度找不到他本人！
【|谷歌AI“誤診”，讓醫療事件上升為刑事案件！】
在調查人員費了一大番功夫聯系上馬克本人 ， 對他進行了全面審查后 ， 最終認定這不構成虐待或剝削兒童 。 即使馬克向谷歌提供了警方的報告 ， 以重新激活他的帳戶 ， 但很不幸 ， 被告知他的帳戶將被永久刪除 。
“錯殺一千不放過一個”
谷歌在2018年表示 ， 它已經開發了一種人工智能工具 ， 使其能夠更快地檢測和刪除兒童性虐待材料 。 在被AI自動標記后 ， 這些照片隨后由真人審查 ， 如果它們被確定為兒童性虐待 ， 谷歌會禁用他們的帳戶 ， 并向非營利組織國家失蹤和受剝削兒童中心提交報告 。

僅在2021年 ， 它就向國家失蹤和受虐兒童中心提交了超過62萬份報告 ， 并封禁了大約27000個與兒童性內容相關的帳戶 。 同年 ， 該非營利組織標記了4200多名潛在的新兒童受害者 ， 其中一人就是馬克的兒子 。 “兒童性虐待令人憎惡 ， 我們致力于防止其在我們的平臺上傳播 ， ”該公司表示 。

但數字公民自由基金會的技術專家喬恩·卡拉斯表示 ， 科技巨頭掃描上傳到他們服務器上的圖片是一種侵入性的行為 。 美國兒科虐待兒童委員會主席蘇珊娜·哈尼也建議父母不要拍攝孩子的照片 ， 即使是醫生的要求！
實際上 ， 這種AI檢測工具依然是非常不成熟的 ， 很容易造成誤判 ， 這對于無辜者來說將會是一場生活上的風暴 。 去年蘋果在宣布兒童安全計劃時 ， 鬧出的動靜也不小 。 當時一片反對聲被掀起 ， 不少用戶認為隱私會被侵犯 。

兒童權益倡導者表示 ， 這些科技公司的合作對于打擊性虐待圖像的在線傳播至關重要 ， 但這對個人隱私的窺探需建立在合理的范圍內 ， 更不用說如今AI并不成熟 。 索菲亞覺得最慘還是這個父親 ， 他無緣無故地為谷歌的錯誤埋單了！

相關經驗推薦