AI可用,不能濫用
2025-01-03 09:41:14? ?來源:深圳特區報 責任編輯:蔡秀明 我來說兩句 |
近日,有網友在使用某網盤時,被推薦了一張自己懷孕的照片,并配文“腦子不夠,肚子來湊”,文案疑似AI自動生成。該網友覺得這句話對孕婦存在侮辱性,表示不愿再用該網盤。隨后,相關平臺公司聯系她進行了退款,同時回應:文案確實不妥,后續將加強文案的篩選、提高模型訓練和技術審核能力,避免再出現類似問題。 伴隨著互聯網科技的飛速發展,各種AI應用層出不窮。其中,尤以“文生圖”或“圖配文”最為常見。前者只需提供文字,就能自動生成相對應的圖片;后者則會根據圖片內容,自動匹配相應的文字。善意地理解,此次事件應該是AI會錯了意、表錯了情,AI智能體或許只是想調侃一下,而非對孕婦或特定人群懷有主觀惡意。但無論是“明知故犯”,還是“無心之失”,此次事件都暴露出一個非常現實的問題——盡管以“智能體”為名,某些AI技術遠遠沒有那么智能。 相比起此次事件,某些AI應用的主觀惡意顯然更加明顯,社會危害性也更大。《甄嬛傳》變身“槍戰片”、《紅樓夢》改成“武打戲”、孫悟空騎著摩托車揚長而去……在AI技術的加持之下,某些“魔改”視頻肆無忌憚地褻瀆經典IP,不僅擾亂公共視聽,而且涉嫌構成侵權行為,由此帶來公眾對技術邊界以及商業倫理的反思。 誠如貝克在《風險社會》一書中所說:“任何新興技術的誕生與運用,在給人們帶來機遇與便利的同時,也可能產生風險與制造挑戰。”作為現代信息技術的重要組成部分,AI技術為各種應用場景提供了更加智能化的解決方案。與此同時也要看到,不成熟或者不恰當的使用,也可能使AI出現誤差、誤判,或者傳遞出不健康的信息和內容。 在數字化轉型的時代背景中,AI技術孕育著無限可能。當科技改變生活成為可觀可感的現實,有必要明確AI應用的技術邊界與道德風險,為維護公共利益構筑起強大的防火墻。畢竟,AI應用依托于數據模型,只有強化人的主體責任,才能防止技術跑偏和濫用。 (作者系媒體評論員) |
相關閱讀:
![]() |
![]() |
打印 | 收藏 | 發給好友 【字號 大 中 小】 |
信息網絡傳播視聽節目許可(互聯網視聽節目服務/移動互聯網視聽節目服務)證號:1310572 廣播電視節目制作經營許可證(閩)字第085號
網絡出版服務許可證 (署)網出證(閩)字第018號 增值電信業務經營許可證 閩B2-20100029 互聯網藥品信息服務(閩)-經營性-2015-0001
福建日報報業集團擁有東南網采編人員所創作作品之版權,未經報業集團書面授權,不得轉載、摘編或以其他方式使用和傳播
職業道德監督、違法和不良信息舉報電話:0591-87095403(工作日9:00-12:00、15:00-18:00) 舉報郵箱:jubao@fjsen.com 福建省新聞道德委舉報電話:0591-87275327