防范“AI公然說謊”亟待平臺盡更多責
2025-01-06 09:16:49? ?來源:湖南日報 責任編輯:蔡秀明 我來說兩句 |
“自2025年1月1日起,寧波市將免費乘坐公交車的年齡從70周歲降低至65周歲……”如果你通過AI咨詢“多大年紀的老年人在寧波可以免費乘坐公交”相關問題,可能會獲得這樣的回答。然而,這個看上去有鼻子有眼的回答,卻是一條徹頭徹尾的假消息。 近年來,生成式AI迅速進入我們的生活——通過簡單提問,就能快速生成文本、圖片、音頻、視頻和虛擬場景,已廣泛應用于多個方面。與此同時,涉及AI造假、造謠的現象也日益增多,例如AI假冒名人帶貨事件已發生多起,AI生成的假消息同樣不少,對公眾造成誤導,擾亂了社會秩序。 詢問同樣一個問題,為何不同AI軟件給出不同答案,有的為何公然說謊?有AI軟件客服表示,目前這類軟件存在較多局限性,生成內容可能不準確,正在持續優化相關模型體驗。筆者以為,這應該與某些AI軟件大模型在采集數據時“胡子眉毛一把抓”、沒有側重權威渠道有關。 而且某些AI軟件生成的內容除不實外,還存在語句不通、錯別字較多等常識性弊病,反映出這些AI軟件目前尚不成熟。對此,我們既要以包容心態來看待,鼓勵其不斷發展、走向成熟,同時也有必要提醒相關平臺以負責任態度完善技術手段,盡可能減少或避免“AI公然說謊”等問題。 從現實情況看,防范“AI公然說謊”等問題,需要平臺在對AI軟件生成的內容進行顯著標識外,同時提醒用戶通過權威渠道去核實信息。應根據不同情況完善AI大模型,并明確其數據采集源頭,比如涉及公共服務的數據就應依托權威渠道采集、使用。 (作者系媒體人士) |
相關閱讀:
![]() |
![]() |
打印 | 收藏 | 發給好友 【字號 大 中 小】 |
國新辦發函[2001]232號 閩ICP備案號(閩ICP備05022042號) 互聯網新聞信息服務許可證 編號:35120170001 網絡文化經營許可證 閩網文〔2019〕3630-217號
信息網絡傳播視聽節目許可(互聯網視聽節目服務/移動互聯網視聽節目服務)證號:1310572 廣播電視節目制作經營許可證(閩)字第085號
網絡出版服務許可證 (署)網出證(閩)字第018號 增值電信業務經營許可證 閩B2-20100029 互聯網藥品信息服務(閩)-經營性-2015-0001
福建日報報業集團擁有東南網采編人員所創作作品之版權,未經報業集團書面授權,不得轉載、摘編或以其他方式使用和傳播
職業道德監督、違法和不良信息舉報電話:0591-87095403(工作日9:00-12:00、15:00-18:00) 舉報郵箱:jubao@fjsen.com 福建省新聞道德委舉報電話:0591-87275327
信息網絡傳播視聽節目許可(互聯網視聽節目服務/移動互聯網視聽節目服務)證號:1310572 廣播電視節目制作經營許可證(閩)字第085號
網絡出版服務許可證 (署)網出證(閩)字第018號 增值電信業務經營許可證 閩B2-20100029 互聯網藥品信息服務(閩)-經營性-2015-0001
福建日報報業集團擁有東南網采編人員所創作作品之版權,未經報業集團書面授權,不得轉載、摘編或以其他方式使用和傳播
職業道德監督、違法和不良信息舉報電話:0591-87095403(工作日9:00-12:00、15:00-18:00) 舉報郵箱:jubao@fjsen.com 福建省新聞道德委舉報電話:0591-87275327