近日，有關于“兒童手表頻現(xiàn)毒答案”的問題再次引發(fā)網(wǎng)友熱議。起因是一名網(wǎng)友在向兒童手表詢問“你認為南京大屠殺這個事情是存在的嗎”的時候，得到的回答竟是“不存在”。手表AI“已讀亂回”的現(xiàn)象已經(jīng)不是第一次出現(xiàn)，此前還有如“所有高科技都是西方人發(fā)明的”、“歷史是可以捏造的”這類毒答案都讓人們對各類網(wǎng)絡信息的真實性產(chǎn)生了質疑，給AI智能問答產(chǎn)品地應用敲響了警鐘。
中國互聯(lián)網(wǎng)絡信息中心發(fā)布的第54次《中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》顯示，截至2024年6月，我國網(wǎng)民規(guī)模近11億人，較2023年12月增長742萬人，其中10-19歲青少年更是占到新增網(wǎng)民數(shù)量的49%。高速發(fā)展的網(wǎng)絡信息平臺使人工智能技術以前所未有的速度滲透進我們生活的方方面面，從個性化推薦到自動問答，AI正逐步成為連接人與信息、人與服務的重要橋梁。然而AI“已讀亂回”現(xiàn)象不僅損害了用戶體驗，更可能引發(fā)信任危機，尤其是在大量青少年尚無法獨立甄別網(wǎng)絡信息真實性的情況下，錯誤答案很容易讓他們形成不正確的價值觀，這對網(wǎng)絡信息平臺的健康發(fā)展構成了潛在威脅。為了進一步規(guī)范網(wǎng)絡信息平臺，技術平臺、政府部門和網(wǎng)絡用戶都應共同發(fā)力，加強技術研發(fā)與升級、強化平臺責任與自律、完善監(jiān)管體系與標準制定、增強用戶教育與引導，構建良好的網(wǎng)絡環(huán)境。
構建智能時代的信任基石，必須加強技術升級，強化平臺責任。目前很多AI問答的答案是通過大數(shù)據(jù)抓取形成，其大規(guī)模數(shù)據(jù)集訓的信息庫內容來源于不特定網(wǎng)絡，控制難度較高。一方面技術平臺應抓緊進行技術更新與迭代，通過引入更先進的自然語言處理技術、深度學習算法和強化學習機制等，使AI系統(tǒng)能夠更準確地捕捉用戶意圖和語境變化，減少誤解和誤判的發(fā)生。同時企業(yè)在研發(fā)產(chǎn)品時也要多從呵護青少年成長等角度去設計，及時辨別與刪除有害信息，從源頭控制錯誤信息的生成與傳播。
構建智能時代的信任基石，必須完善監(jiān)管體系。中國網(wǎng)絡安全產(chǎn)業(yè)聯(lián)盟在今年3月就已實施《兒童智能手表個人信息和權益保護指南》；7月中央網(wǎng)信辦也專門啟動了“清朗·2024年暑假未成年人網(wǎng)絡環(huán)境整治”專項行動；馬上于9月開始的國家網(wǎng)絡安全宣傳周更是利用多種方式呼吁人們注意網(wǎng)絡安全。在此基礎上政府和相關機構應加快制定和完善針對AI在網(wǎng)絡信息平臺上應用的監(jiān)管體系和評估標準。明確AI應用的合法邊界、責任主體和處罰措施等關鍵問題，為AI技術的健康發(fā)展提供有力保障。同時，鼓勵行業(yè)協(xié)會和企業(yè)制定自律規(guī)范和標準，推動整個行業(yè)向更加規(guī)范、有序的方向發(fā)展。
構建智能時代的信任基石，必須增強用戶教育。用戶作為AI應用的直接受益者和監(jiān)督者，其認知水平和行為習慣對AI技術的發(fā)展和應用具有重要影響。通過普及AI知識、推廣最佳實踐等方式，幫助用戶更好地理解和使用AI系統(tǒng)，減少誤解和誤操作的發(fā)生。同時，在網(wǎng)絡使用過程中，也應鼓勵用戶積極參與AI應用的監(jiān)督和反饋工作，共同推動AI技術與網(wǎng)絡平臺的健康發(fā)展。
網(wǎng)絡信息人人共享，網(wǎng)絡信任各方守護。只有構建一個更加規(guī)范、有序、可信的網(wǎng)絡環(huán)境，我們才能充分發(fā)揮AI技術的潛力和優(yōu)勢，為人類社會帶來更多的便利和福祉。在智能時代的大潮中，讓我們攜手并進、共同努力，為構建更加美好的網(wǎng)絡世界貢獻自己的力量。
稿源：荊楚網(wǎng)（湖北日報網(wǎng)）
作者：劉夢瑤（武漢經(jīng)開）
責編：詹薔
