商家訂單過(guò)萬(wàn)聲稱(chēng)七八成像,AI預測胎兒長(cháng)相靠譜嗎?媒體調查

  央廣網(wǎng)   2024-06-29 11:56:30

近日,有媒體報道稱(chēng),市民朱女士在某電商平臺付費8.8元,購買(mǎi)了一項四維超聲圖AI預測胎兒長(cháng)相的服務(wù)。當她看到其他消費者分享的生成圖后,發(fā)現寶寶們竟然“撞臉”了。當她向賣(mài)家申請退費時(shí),商家懷疑其是同行在搞鬼,拒絕退費。

記者發(fā)現,在一些互聯(lián)網(wǎng)平臺上,“AI預測寶寶長(cháng)相”“AI婚紗照”“AI畢業(yè)照”等AI寫(xiě)真產(chǎn)品廣受網(wǎng)友歡迎。法學(xué)專(zhuān)家表示,這類(lèi)AI生意本身并不違法,重要的是短視頻平臺等數據收集方要保護好用戶(hù)上傳照片的安全性,也要保護好用戶(hù)的數據安全、個(gè)人信息和隱私安全。

商家訂單過(guò)萬(wàn),聲稱(chēng)會(huì )有七八成像

“最新技術(shù),快速出圖”“滿(mǎn)足準媽媽的好奇心”“3分鐘出高清圖”……6月28日,記者在某電商平臺輸入“AI預測寶寶長(cháng)相”等關(guān)鍵詞,發(fā)現諸多提供預測胎兒長(cháng)相服務(wù)的商家,價(jià)格在幾元至幾十元不等,有店鋪銷(xiāo)量已達2萬(wàn)多單。

AI如何預測未來(lái)胎兒的長(cháng)相?記者詢(xún)問(wèn)多個(gè)商家了解到,電商平臺的制圖流程通常是消費者先向店鋪客服發(fā)送一張或多張胎兒的四維照片,選片的優(yōu)先級為“正臉輪廓清晰>正臉有遮擋>側臉輪廓清晰>側臉有遮擋”,商家根據所發(fā)照片確認是否可以制作。消費者在確定可以制圖后,付款下單。根據不同店鋪的出片時(shí)間,一般在幾分鐘至兩個(gè)小時(shí),消費者即可獲得一張電子版胎兒長(cháng)相預測圖。

其中一個(gè)商家發(fā)給記者的“下單須知”(央廣網(wǎng)發(fā))。

當記者詢(xún)問(wèn)具體使用哪種AI技術(shù)時(shí),商家大都含糊表示為“國外的一種AI技術(shù)模型”。其中,一家售價(jià)19.9元的店鋪客服人員表示,很多商家都是使用一款國外的AI軟件,把消費者提供的胎兒四維照片放到該款軟件里就可以生成預測圖片。

“為什么店鋪收費不同,有的只要幾塊錢(qián),而有的店要幾十?”記者詢(xún)問(wèn)。

該店鋪客服人員稱(chēng),有的店鋪根據胎兒彩超圖再調整細節甚至精修,收費高,而收費少的店鋪可能是一鍵出圖。

“使用該AI軟件需要幾百元的費用,我就是單獨購買(mǎi)的賬號,很多店家都是和別人拼的號?!鄙鲜隹头藛T說(shuō),如果拼號,別人也會(huì )看見(jiàn)寶寶的照片,私密性無(wú)法保證。

生成的照片與實(shí)際出生的嬰兒有多像呢?記者看到,很多消費者在不同店鋪評論區留言,有些消費者認為有些相似,也有消費者表示“完全沒(méi)有參考性,就是花錢(qián)圖個(gè)樂(lè )?!鄙碳蚁蛴浾弑硎?,不保證完全準確,但有七八成的相似度。

北京航空航天大學(xué)法學(xué)院副教授趙精武表示,嬰兒長(cháng)相受遺傳、環(huán)境等多種因素的影響,AI預測的可靠程度需要結合底層技術(shù)環(huán)節的訓練數據、算法模型等多維度進(jìn)行具體判斷。在一定程度上,這項生意就是利用了父母的好奇心理,娛樂(lè )性大于科學(xué)性。

如何做好AI“生意”?

記者注意到,一些互聯(lián)網(wǎng)平臺推出的“情侶照片合成未來(lái)孩子照片”“AI婚紗照”“AI畢業(yè)照”等AI寫(xiě)真產(chǎn)品都廣受網(wǎng)友歡迎。用戶(hù)只需要提供一張隨手自拍的原始照片,就可以生成多張姿勢、服裝和背景等風(fēng)格各異的照片。

在趙精武看來(lái),技術(shù)是中立的,這類(lèi)AI生意本身并不違法,重要的是短視頻平臺等數據收集方要保護好用戶(hù)上傳照片的安全性,平衡好娛樂(lè )用途和隱私安全。信息服務(wù)提供者應當事前明確告知用戶(hù)有關(guān)個(gè)人信息的處理方式、目的和范圍,并嚴格落實(shí)個(gè)人信息保護法、數據安全法等法律規定。另外,如果涉及多人合照,則需要對生成圖片增加顯著(zhù)的AI生成內容標識。比如,一些用戶(hù)使用兩人照片生成未來(lái)孩子的照片,可能把自己照片與他人照片合成起來(lái),如果未經(jīng)他人同意,這類(lèi)行為存在侵害他人肖像權等法律風(fēng)險。

趙精武表示,用戶(hù)應當在使用相關(guān)信息服務(wù)之前,仔細瀏覽平臺的用戶(hù)協(xié)議、隱私政策等內容,明確知曉自己的照片等信息將會(huì )以何種方式處理。平臺經(jīng)營(yíng)者應當對AI信息服務(wù)進(jìn)行定期的安全審核,確保數據采集端、產(chǎn)出端等各個(gè)業(yè)務(wù)環(huán)節的數據安全。監管機構應當依據《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》等法律法規,采取必要的監管措施,督促平臺經(jīng)營(yíng)者履行法定義務(wù),針對法律風(fēng)險較大的AI業(yè)務(wù)實(shí)施重點(diǎn)監管措施。

北京市京師律師事務(wù)所李寶蓮律師稱(chēng),AI技術(shù)無(wú)疑具有巨大的商業(yè)空間。公眾在享受科技帶來(lái)便捷與快樂(lè )時(shí),也需要尊重他人隱私和個(gè)人空間,及時(shí)了解技術(shù)發(fā)展的趨勢,增加個(gè)人數據信息保密意識。企業(yè)和研究機構,不但需要在管理上完善各項保密制度,更需要通過(guò)開(kāi)發(fā)有效的技術(shù)手段來(lái)識別虛假的AI信息以保護企業(yè)內部重要數據的安全?;ヂ?lián)網(wǎng)平臺和監管部門(mén)應建立防治虛假信息的機制,承擔起監督和管理責任,合力營(yíng)造出一個(gè)充滿(mǎn)安全和活力的健康網(wǎng)絡(luò )環(huán)境。

責編:肖秀芬

一審:胡澤匯

二審:彭彭

三審:趙雨杉

來(lái)源:央廣網(wǎng)

我要問(wèn)