AI安全問題備受關注！頂尖企業齊聚一堂，AI實驗被叫停？

據外媒報道，隨著OpenAI訓練的ChatGPT人工智能聊天機器人風靡全球，多家公司也開始加速相關技術的研發和應用。最新的自然語言處理模型GPT-4于3月14日推出，進一步推動了大型語言模型及類ChatGPT技術的發展。

然而，隨著這些人工智能技術的快速發展，也引起了人們對其潛在風險的擔憂。上千名頂尖人士，包括馬斯克、蘋果聯合創始人斯蒂夫·沃茲尼亞克等，曾公開呼吁AI實驗室暫停訓練更強大的模型6個月，以制定并落實相關的安全協議。

為了探討如何以最負責任的態度繼續開發AI技術，頂級投資公司SV Angel將于當地時間周三召集AI研發領域頂尖企業的高管和員工，探討制定使用AI技術的標準。據報道，OpenAI、微軟、谷歌、蘋果、英偉達等公司的代表預計將參會。

在此前呼吁暫停訓練更強大的模型的信中，他們提到，AI實驗室和第三方的專家應該利用暫停時間，共同制定和實施先進AI設計和開發的共享安全協議，并由第三方專家進行嚴格的審查和監督。同時，AI開發人員必須同政策制定者合作，加速開發強大的AI管理系統。

這一事件再次引起人們對AI技術的潛在風險的關注。人們普遍認為，盡管AI技術的發展前景廣闊，但也需要制定相關安全協議和規定，以確保其合理、負責任的應用。

據悉，目前國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，現向社會公開征求意見。在征求意見稿中，明確了提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務；利用生成式人工智能產品生成內容的提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責；對于運行中發現、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成等內容。

隨著人工智能技術的不斷進步，AI技術的發展前景仍然十分廣闊。然而，我們也需要認真考慮其潛在風險，積極制定相關安全協議和規定，確保其合理、負責任的應用，以實現人工智能技術的可持續發展。