商務投稿:18928809533【微信同號】
首頁 » 科技 » 瑞莱智慧發布新型AIGC防欺詐工具,即時識別AI生成影像

瑞莱智慧發布新型AIGC防欺詐工具,即時識別AI生成影像

分享:

2024年6月21日,北京瑞莱智慧科技有限公司在其年度產品發布會上推出了針對個人用戶的最新AIGC(生成式人工智能技術)產品——RealBelieve。該產品能有效鑑別視頻通話或網絡視頻中的人臉真偽,並在用戶瀏覽網頁時提供AI合成的可能性提示。

瑞莱智慧自2018年成立以來,專注於提供人工智能的安全控制技術,服務範圍已涵蓋金融、工業和公共安全等多個領域。該公司最新的產品「尊嘟假嘟」已開始招募內測用戶。

公司聯合創始人及算法科學家萧子豪介紹說,RealBelieve安裝後,能在用戶進行視頻通話時及時提供警告,指出對方人臉是否有被AI合成的風險。這種實時的風險提示有助於用戶調整交流方式,迅速驗證對方身份的真實性,從而避免潛在的欺詐風險。同時,當用戶瀏覽網頁內容時,該工具還會對網頁上的人物圖片進行AI合成風險的評估。

瑞莱智慧的CEO田天強調,隨著人工智能技術的迅速發展,AI生成的數字人物和視頻內容變得越來越普遍,但這些系統往往存在安全漏洞。他例證說,經過微小修改的圖像能夠輕易誤導AI系統,如人臉識別系統可能因微小的圖像干擾而錯誤識別人物身份。這種系統的脆弱性極大增加了被詐騙和誤導的風險。通过这样的工具,瑞莱智慧旨在增強數字時代用戶的安全感。