兒童智能產(chǎn)品開(kāi)發(fā)必須嚴(yán)守底線
http://m.magentopwa.com2024年08月29日 09:27教育裝備網(wǎng)
近日,某品牌兒童手表搜索功能出現(xiàn)“不良答案”的消息登上熱搜。相關(guān)答案毀三觀的程度令人驚詫。事后,企業(yè)表示將整改并接受社會(huì)監(jiān)督。
為什么會(huì)出現(xiàn)這些毀三觀的答案?從技術(shù)的手段上分析,當(dāng)然可以得出各種結(jié)論。但技術(shù)背后的原因更值得深思,那就是一些企業(yè)缺乏社會(huì)責(zé)任感,在研發(fā)產(chǎn)品時(shí)沒(méi)有從保護(hù)未成年人權(quán)益、呵護(hù)未成年人成長(zhǎng)的角度去設(shè)計(jì)產(chǎn)品。所以,才會(huì)出現(xiàn)各種漏洞。試想,如果沒(méi)有家長(zhǎng)及時(shí)發(fā)現(xiàn)內(nèi)容并推動(dòng)企業(yè)整改,還會(huì)有多少毀三觀的內(nèi)容持續(xù)污染青少年的認(rèn)知?
更需要指出的是,不僅是某一款兒童產(chǎn)品存在類似問(wèn)題。近年來(lái),隨著人工智能技術(shù)、大數(shù)據(jù)等科技發(fā)展,幫助兒童生活、學(xué)習(xí)的電子產(chǎn)品、App軟件更加豐富。相伴而來(lái)的是,相關(guān)產(chǎn)品和軟件在內(nèi)容輸出方面問(wèn)題頻出,引發(fā)社會(huì)的廣泛關(guān)注和討論。這背后反映的是一些企業(yè)不斷追求應(yīng)用最新的技術(shù),卻忽略了技術(shù)應(yīng)用可能帶來(lái)的風(fēng)險(xiǎn)。人工智能確實(shí)強(qiáng)大,其內(nèi)容生成能力遠(yuǎn)超過(guò)人類,但人工智能在價(jià)值判斷上存在紊亂的情況,它可能給人提供錯(cuò)誤的信息,誤導(dǎo)、欺騙人類。這就需要人類把握好價(jià)值判斷的尺度。對(duì)于企業(yè)來(lái)說(shuō),在開(kāi)發(fā)兒童產(chǎn)品時(shí),認(rèn)識(shí)到人工智能的局限性,牢記自身的責(zé)任,是必須守住的最基本的底線。
責(zé)任編輯:董曉娟
本文鏈接:TOP↑