ChatGPT可能泄露商業(yè)機密 美國FTC稱(chēng)將重點(diǎn)關(guān)注AI違法行為

  ICC訊  北京時(shí)間4月19日早間消息，據報道，以色列網(wǎng)絡(luò )安全公司Team8的最新報告顯示，使用ChatGPT等生成式人工智能的企業(yè)可能會(huì )因此泄露客戶(hù)信息和商業(yè)機密。

  該報告稱(chēng)，新型人工智能聊天機器人和協(xié)作工具的廣泛普及，可能會(huì )令一些公司面臨數據泄露和法律風(fēng)險。他們擔心黑客可能會(huì )利用聊天機器人獲取敏感的企業(yè)信息或對企業(yè)發(fā)動(dòng)攻擊。此外，目前投喂給聊天機器人的機密信息未來(lái)也有可能會(huì )被人工智能公司利用。

  包括微軟和Alphabet在內的大型科技公司都在爭相通過(guò)生成式人工智能技術(shù)改進(jìn)聊天機器人和搜索引擎，利用互聯(lián)網(wǎng)上獲取的數據訓練他們的模型，從而為用戶(hù)提供一站式問(wèn)答服務(wù)。報告稱(chēng)，如果使用機密或私密數據來(lái)投喂這些工具，今后將很難刪除相關(guān)信息。

  該報告寫(xiě)道：“使用生成式人工智能的企業(yè)，其敏感信息、知識產(chǎn)權、源代碼、商業(yè)機密和其他數據，可能會(huì )通過(guò)用戶(hù)直接輸入或API等渠道被他人獲取和處理，其中包括客戶(hù)信息或私密信息以及機密信息?！盩eam8將這一風(fēng)險標記為“高風(fēng)險”。他們認為，如果采取適當的防范措施，該風(fēng)險“可控”。

  Team8在報告中強調，聊天機器人的查詢(xún)并不會(huì )被輸入大預言模型來(lái)訓練人工智能，而與之相悖的是，最近的報告聲稱(chēng)這樣的提示信息有可能會(huì )被其他人看到。

  “截至發(fā)稿，大語(yǔ)言模型還無(wú)法實(shí)時(shí)自我更新，因此無(wú)法將一個(gè)人輸入的信息反饋給另外一個(gè)人，從而有效打消這種顧慮。然而，在訓練未來(lái)版本的大語(yǔ)言模型時(shí)，未必不會(huì )采取這種方法?！痹搱蟾鎸?xiě)道。

  該報告還標記了另外3項與整合生成式人工智能工具有關(guān)的“高風(fēng)險”問(wèn)題，并強調了通過(guò)第三方應用分享越來(lái)越多的信息所產(chǎn)生的威脅。微軟就將部分人工智能聊天機器人功能嵌入了必應搜索和Office 365工具。

  報告稱(chēng)：“例如，在用戶(hù)端，第三方應用會(huì )利用生成式人工智能API，倘若遭到攻擊，就有可能提供電子郵件和網(wǎng)絡(luò )瀏覽器權限，攻擊者還有可能冒充用戶(hù)采取行動(dòng)?！?

  該公司認為，使用人工智能也有可能加劇歧視問(wèn)題、損害公司聲譽(yù)或導致企業(yè)遭遇侵權訴訟。這些都屬于“中風(fēng)險”問(wèn)題。

  微軟公司副總裁安·約翰遜(Ann Johnson)參與起草了這份報告。微軟向ChatGPT的開(kāi)發(fā)商O(píng)penAI投資了數十億美元。

  微軟發(fā)言人說(shuō)：“微軟鼓勵對安全和人工智能領(lǐng)域的網(wǎng)絡(luò )風(fēng)險展開(kāi)透明的討論?！?

  OpenAI開(kāi)發(fā)的ChatGPT聊天機器人的火爆引發(fā)了監管呼聲。各界都擔心在企業(yè)試圖利用這項技術(shù)提高效率時(shí)，這種創(chuàng )新也有可能會(huì )被用于不法行為。

  美國聯(lián)邦貿易委員會(huì )(FTC)官員周二表示，該機構將重點(diǎn)關(guān)注濫用人工智能技術(shù)違反反歧視法或存在欺騙行為的公司。

  FTC主席莉娜·可汗(Lina Khan)和委員黎貝卡·斯勞特(Rebecca Slaughter)及阿爾瓦羅·貝多亞(Alvaro Bedoya)都參加了美國國會(huì )舉行的聽(tīng)證會(huì )，他們被問(wèn)及與最近的人工智能創(chuàng )新有關(guān)的擔憂(yōu)。這項技術(shù)可以用于制作高質(zhì)量的“深度偽造”，從而產(chǎn)生更具欺騙性的騙局以及其他違法行為。

  貝多亞表示，使用算法或人工智能的企業(yè)不得違反民權法律，也不得違規采取不公平或具有欺騙性的行為。

  他表示，黑匣子不能成為無(wú)法解釋算法的借口。

  可汗也認為最新的人工智能技術(shù)可以幫助不法分子開(kāi)展欺詐活動(dòng)。她同時(shí)表示，任何不當行為“都應該得到FTC的制裁”。

  斯勞特指出，FTC在100年的歷史上一直都要適應不斷變化的技術(shù)，而適應ChatGPT和其他人工智能工具也并無(wú)不同。

  按照組織設置，該委員會(huì )應該擁有5名委員，但目前只有3名，而且全部為民主黨人。