商務投稿:18928809533【微信同號】
首頁 » 科技 » AI定位引爭議,夸克用戶隱私權受關注

AI定位引爭議,夸克用戶隱私權受關注

分享:

近日,一位網友在小紅書發布了一則帖子,描述了他因一時興起在夸克APP搜索自己的名字所遭遇的情況。他驚訝地發現,自己的大學資訊被毫無保留地展示出來,包括學校、專業和學號等詳細資訊。

「是搜名字後AI直接整合了一大篇資訊,準確定位到本人了。」

這並非孤例,另一位用戶也在社交平台上,表達了對個人資訊洩露的不滿和困惑:「被洩露個人資訊是什麼好笑的事嗎……還有就是@夸克APP,你們什麼意思啊,AI資訊整合都可以直接準確定位到我本人了。」

雖然這兩起事件可能並不常見。但一些夸克用戶指出,擁有常見姓名的搜索結果往往不會顯示,或者顯示錯誤的資訊,「但對於稍微少見一些的名字,結果的準確性簡直如同裸奔一般,暴露無遺。」

目前,上述兩位當事人已通過聯繫夸克客服解決了問題,處理後結果是,AI整合的個人資訊已被移除,搜索結果僅顯示存在於各網站上的同名同姓的資訊。

7月10日,阿里智能資訊事業群旗下的夸克升級「超級搜索框」,集納了智能回答、智能創作和智能總結三大能力。

此次引發爭議的主要是「超級搜索框」的「智能回答」功能。官方對該功能的描述是:它能更深入地洞察用戶的搜索意圖,整合全網的優質內容,以更精準、直接和高效的方式提供圖文和視頻等資訊。

也就是說,隨著「AI超級搜索框」的推出,用戶在夸克新版本的App中輸入任何查詢,系統都將利用大模型的能力,自動整合搜索結果,並生成一份完整的AI驅動的回答。

但顯然,「聚合全網優質內容」功能在方便用戶的同時,也帶來了一些潛在的問題。正如小紅書上的用戶所指出的,這項功能可能導致夸克搜索引擎暴露用戶的個人詳細資訊。

這引發了廣泛的質疑和擔憂。

客觀來看,夸克APP及其他搜索引擎的功能本質是資訊檢索工具,它們通過算法索引網頁內容,幫助用戶找到相關資訊。理想情況下,從技術角度出發,搜索引擎展示的資訊都是已經公開的數據。

如果某個用戶的大學資訊、學號等個人數據可以通過搜索名字被找到,這意味著這些資訊已經在某個公共領域被公開。從這個角度來看,搜索引擎並沒有「洩露」資訊,而是在執行它們的基本職能:組織和檢索公開資訊。

正因此,有相當一部分用戶在上述當事人帖子下替平台發言,「這也不算這些瀏覽器洩露你們的資訊,是別人公示過你們的資訊,瀏覽器本就是收錄整合別人發的東西。」

但真是如此嗎?當這種技術能力被用來聚合原本零散,且難以獲取的個人資訊時,其實已經構成了對個人隱私的侵犯。就像一個有能力偷窺每個角落的監視器,即使資訊原本就公開存在,聚合後的資訊卻產生了新的隱私問題,這是技術發展必須直面的倫理問題。

專門從事網絡相關法律業務的律師凌逸凡對「市象」表示,「應用這樣的技術時,責任不應只停留在『技術上可行』這一層面,更應關注『倫理上是否恰當』。」

當前,許多技術企業依託「用戶已同意隱私政策」這一點操作邊界模糊的授權,實行對個人數據的無限搜集和使用。這種行為,實際上是在利用用戶對技術的依賴和對隱私政策的不理解,將責任推脫給了用戶自身,這種做法是對權力的濫用。

上述情況也並非是夸克AI的獨有事件。有用戶留言稱,「使用kimi、智普清言等AI搜索工具也能找到我的名字和個人資訊」,這表明隱私資訊在AI工具上「裸奔」的問題可能更為普遍。

「企業和開發者需要重新審視他們對技術的態度和責任。不是所有技術上能做到的事情都應該去做。開發者和企業不僅應負責其產品能做什麼,更要負責它們不應該做什麼。就像在擁有大規模監控能力的今天,最大的挑戰不是如何監控更多,而是如何在尊重個體隱私的前提下,合理使用這些能力。」從事AI應用創業的開發者鍍鉻,在與「市象」的交流中分享了自己的觀點。

去年11月,阿里集團CEO吳泳銘將夸克與閑魚、釘釘和1688一同定位為戰略級創新業務,譽之為「阿里四小龍」,千億級別參數的夸克大模型也首次亮相。

正是基於這一大模型,夸克推出了「超級搜索框」。阿里智能資訊事業群總裁吳嘉描述它能够進行回答、創作和總結,稱其為對AI搜索的重新定義。

但在夸克對AI搜索的定義中,確實應當更加重視資訊安全的元素。

畢竟,百度公司董事長兼CEO李彥宏早已用「中國人願用隱私換便利」之說,引出了大眾的共識——資訊自由流通是互聯網的基石,但這種自由不應以犧牲個人隱私為代價。