紐約州總檢察長發布人工智慧風險報告

【大紀元2024年08月09日訊】（大紀元記者實習記者皓禹報導）紐約州總檢察長詹樂霞（Letitia James）8月5日發布了一份評估人工智慧的優勢與風險的新報告，其中特別關注生成式人工智慧的風險。

今年4月詹樂霞組織一場與學者、政策制定者和行業領袖的研討會，關注生成式人工智慧（generative AI）在數據隱私、自動決策、錯誤訊息中的風險，以及在醫療保健中的作用。

生成式人工智慧不同於傳統的人工智慧，它可以創造新內容，如文字、圖像和音訊，這既帶來了機遇，也帶來了挑戰和風險。

其風險包括，廣泛的可訪問性和多功能性可能導致資料隱私洩露、錯誤資訊和偏見等問題。例如，在醫療保健中，儘管人工智慧在疾病檢測、公共衛生監測和精準醫療方面取得了重大進展，但是人們對隱私和有偏見的自動化決策風險表示擔憂。

此外，風險還在於生成信息的出錯上。在行政效率上，人工智慧可以透過自動化編碼和翻譯等任務來提高生產力，但也帶來了與錯誤訊息和資料安全相關的風險。

研討會同時強烈呼籲人工智慧的透明度，即更清楚地揭露人工智慧的使用時間以及資料管理方式，包括告知消費者人工智慧的互動和資料保護措施。

研討會強調了制定監管框架以管理人工智慧影響的重要性。與會者討論了現有的歧視、隱私和資料安全法律作為解決潛在危害的工具，並一致認為政府需要加強監督；領導人也強調了制定平衡創新與道德考量和隱私保護的法規的重要性。他們強調需要繼續討論和實施立法行動，以確保人工智慧技術在降低風險的同時造福社會。

詹樂霞表示，她很自豪自己一直在積極應對新興技術挑戰。2024年6月，她支持了兩項重要法案，旨在保護兒童免受線上演算法傷害並解決青少年心理健康問題；去年10月，她起訴了Meta通過令人上癮的社群媒體功能對年輕人的心理健康產生負面影響；此外，詹樂霞已從起訴Genesis和KuCoin等平臺獲得超過25億美元和解金，以解決投資者傷害和詐欺問題。

詹樂霞在一份聲明中說，隨著紐約持續保持在技術上的領先地位，她將繼續致力於制定有效的人工智慧法規，確保創新符合公共安全和隱私保護的要求。

責任編輯：鄭樺