機遇伴風險而來 美國大動作傳遞的AI產業信號香港新聞網6月26日電 美國日前宣布重大行動，將成立一個新的（AI）公共工作組，以應對與AI相關的風險與潛力。人工智能的出現，為人類新世代打開了想象空間，ChatGPT更為人工智能技術按下加速鍵。但是新的技術也伴隨著風險而來，各國紛紛出台監管政策。這一系列監管政策的背後，可以看到，矛頭都指向一個最重要的方向，對當下最火爆的生成式AI產業發佈規範性政策。 美國宣布重大行動 美國商務部長吉娜·雷蒙多日前宣布，旗下美國國家標準與技術研究院（NIST）將成立一個新的（AI）公共工作組，以應對與AI相關的風險與潛力。 據介紹，AI公共工作組將招募來自私營和公共部門的技術專家和志願者，并將重點關注與生成式AI相關的風險。目前這項技術正在推動市場產品的快速變化。 雷蒙多透露，最近NIST發佈的風險管理框架（AI RMF）可以幫助最大限度地減少生成式AI技術的潛在危害。在這個框架的基礎上，這個新的公共工作組將有助於為那些正在開發、部署和使用生成式AI組織提供必要的指導，并有責任確保其可靠性。 該小組成立前夕，拜登在舊金山與資深的AI專家和研究人員舉行了會議，外界評價稱，這體現了拜登政府致力於尋求AI機遇、管理AI風險。 為此，商務部新成立的公共工作組將幫助解決與生成式AI技術相關的機遇和挑戰，還將幫助NIST制定關鍵指南，以幫助組織解決與生成式AI相關的特殊風險。 數據洩露風險不斷 ChatGPT火熱的背後也引發人們的擔憂。與人“對話”、編寫代碼、創作詩歌、模仿名家畫作……ChatGPT完成了一些以往被認為只有人類才能完成的工作，為人工智能技術按下加速鍵。 這種生成式AI可以通過算法、模型、規則生成新內容，這些內容包括圖像、文字、音樂，甚至視頻、代碼等。面對數據安全、個人隱私、信息造假、算法歧視……各國監管部門對一系列潛在風險反應迅速，動作不斷。 因為這些不僅對個人的信息、隱私和財務安全帶來風險，對公司甚至是對於國家安全也一樣面臨巨大風險。在4月10日，中國支付清算協會就發佈了關於支付行業從業人員謹慎使用ChatGPT等工具的倡議。倡議表示，已有部分企業員工使用ChatGPT等工具開展工作，但是，此類智能化工具已暴露出跨境數據洩露等風險。 相關統計顯示，過去5年內，全球安全攻擊數量增長67%，攻擊者藉助釣魚鏈接等方式“黑”進用戶的時間從幾個月、幾周縮短至1小時左右。ChatGPT上線後，進一步降低了攻擊門檻，幾乎沒有代碼經驗的人也可編寫惡意軟件，AIGC被濫用於網絡釣魚、宣傳虛假信息甚至網絡犯罪的可能性激增。 中國在4月11日國家互聯網信息辦公室正式發佈《生成式人工智能服務管理辦法（征求意見稿）》，首次針對於當下爆火的生成式AI產業發佈規範性政策。 去風險尋機遇的監管背後 通用人工智能加速產業發展，將成為新一輪科技革命和產業變革的重要驅動力量，對人們的生產生活產生重大影響。存在風險的同時也帶來了很多產業機遇，目前，一些生成式人工智能應用正向辦公、生活等領域滲透，一批生物製藥、遙感、氣象等垂直領域的專業類大模型走向應用。 美國此次對AI監管成立專門的工作小組有著短期與長期的考量，短期來看，工作組將作為收集指導意見的工具，來完善NIST的AI RMF框架，以支持生成式AI技術的開發，并鼓勵在處理相關風險時使用AI RMF；長期來看，該小組將探索具體的機會，以提高強大的生成式AI技術被有效利用的可能性，以應對這個時代在健康、環境和氣候變化等領域面臨的重大挑戰。 雷蒙多表示，美國總統拜登已經明確表示，必須努力利用AI的巨大潛力，同時要監管AI對我們的經濟、國家安全和社會構成的風險。 香港應科院高級工程師伍裕江在接受中通社記者采訪時表示，對中國來說人工智能發展水平總體上仍處於起步階段，既要重視通用人工智能發展、營造創新生態，又要重視防範風險，會更加任重道遠。中國目前有一批具有行業影響力的預訓練大模型在蓬勃發展，廣闊的市場和應用場景的豐富是中國具有的優勢，能為探索具有產業價值的應用方向，為技術研發提供更多支撐。 伍裕江表示，人工智能不斷進化，也會帶來一定風險。積極推進人工智能治理，就要有一定的前瞻性。通用人工智能可處理、生成近似原作的產品，將在個人隱私保護、打擊虛假信息等方面帶來新的挑戰。政府、行業、企業等共同制定標準和制度規則，將有效防控人工智能的科技倫理風險的同時，促進產業的發展。（完） 【編輯：錢林霞】
|
