首頁 > 要聞 > 正文

擔心傳播不良信息，美政府研究是否監管ChatGPT等AI技術-環球資訊

2023-04-11 22:47:00來源：澎湃新聞

美國政府已開始研究是否需要監管ChatGPT。

當地時間4月11日，據《華爾街日報》報道，由于人們越發擔心ChatGPT等人工智能技術可能會被用于歧視或傳播有害信息，拜登政府已經開始研究是否需要對這類工具進行限制。

(資料圖片僅供參考)

美國商務部4月11日就相關的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發布前是否應該進行核準認證程序。這被視作是邁出對人工智能領域實行潛在監管的第一步。

ChatGPT等人工智能工具可以快速生成類似人類使用的文字、圖像與視頻等。人工智能實驗室OpenAI于2022年11月推出的聊天機器人ChatGPT，在短短兩個月內活躍用戶達到1億，成為史上增長最快的消費者應用程序。

“這些工具即便在起步階段就能做到這些，這真令人驚訝。” 美國商務部下屬機構國家電信與信息管理局局長艾倫·戴維森（Alan Davidson）說，“我們知道，我們需要設置一些界限，來確保這些技術被負責任地使用。”

據戴維森介紹，征求意見的期限為60天，這些意見有助于向美國的政策制定者提供有關如何處理人工智能的建議。戴維森補充稱，其所在的機構負責就技術政策向美國總統提供建議，而非撰寫或執行法規。

目前，科技行業和政府官員已對人工智能技術潛在的危害表示擔憂，包括使用該技術犯罪或是傳播虛假信息。

美國科羅拉多州民主黨參議員Michael Bennet特別關心兒童的安全。上個月，Bennet給幾家人工智能公司寫信，詢問有關公共實驗的情況。在那些實驗中，聊天機器人向裝成年輕人的用戶提供了令人不安的建議。

“人工智能到底是能為我們帶來極大的好處，還是造成災難性的后果，人們正針對這個話題進行激烈討論。” 康涅狄格州民主黨參議員Richard Blumenthal在接受采訪時表示，“這對國會來說是終極挑戰，一個高度復雜、極具技術性的挑戰，且事關重大，極為緊迫。”

拜登上周在白宮與一個科學家顧問委員會討論了這一話題。當有記者問及人工智能技術是否有危險時，拜登表示：“還有待觀察，有可能（有危險）。”

據介紹，顧問委員會的成員包括來自微軟和谷歌的代表。這兩大科技巨頭和其他發布人工智能系統的公司表示，他們正不斷更新安全界限，比方說通過編程讓聊天機器人不回答某些問題。

值得一提的是，當地時間4月10日，據美國數字新聞網站 Axios報道，知情人士透露，著名科技投資人Ron Conway的投資公司SV Angel將于4月12日召集舊金人工智能山AI公司的高層討論人工智能政策問題，OpenAI、微軟、谷歌、蘋果、英偉達、Stability AI、Hugging Face、Anthropic等公司的高管與政策代表將出席該會議，討論如何負責任地開發AI、分享最好的實踐案例，并商討相關的公共政策框架和標準。

就在3月29日，埃隆·馬斯克（Elon Musk）等千名業界和學界人士聯署公開信，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的AI系統，暫停至少6個月，以便制定和實施安全協議。

據悉，美國金融部門的監管機構已經對貸款機構如何利用人工智能來承銷貸款進行調查，希望防止對少數群體的歧視。此外，美國司法部反壟斷部門表示，該部門正在監控人工智能領域的競爭。聯邦貿易委員會則警告這些科技公司，它們可能會因對人工智能產品做出虛假的或未經證實的聲明而面臨法律后果。

標簽：