以往要製作合成影像，除了需要專業技術，還要有一台性能不差的電腦才有辦法完成。而現在僅僅靠著 AI 及一支不算昂貴的手機，就有可能辦到，便利性大增的同時也帶來一些隱憂。

󠀠

在美國，2024 年 10 月，威斯康辛州一名 13 歲男孩利用同學慶祝成年禮照片，製作了一張深度偽造的裸照，並分享到 Snapchat；加州比佛利山聯合學區，5 名國中生以「深偽（Deepfake）」方式製造出 16 名同學裸照，後來遭到退學處置。過去幾年，全美各地都出現了類似的學齡兒童利用深度偽造技術惡作劇或霸凌同學的案例。

󠀠

在臺灣，著名案例是一位叫「小玉」的網紅，他利用了 AI「Deepfake」技術，將其他網紅、民代「換臉」，用來製造色情片並販售，遭移送法辦後，一審遭判五年半。2024 年 9 月韓國爆發大規模 Deepfake 案件，學生、教師、軍人，甚至是知名韓團女星，都成為 Deepfake 色情影像的受害者，犯罪年齡層更以青少年為大宗。

󠀠

【如何與孩子談論 AI？】

󠀠

美國心理學會（APA）《Artificial intelligence and adolescent well-being》揭示了AI為青少年帶來的機會和挑戰。青少年時期（10-25 歲）是大腦發育的關鍵時期，了解如何謹慎地運用 AI，有助於最大限度地發揮其優勢，同時避免潛在的陷阱。

󠀠

一、避免青少年對AI過度依賴

󠀠

心理學研究表明，青少年對聊天機器人的回答提出質疑的可能性低於成年人，並且可能難以區分程式化的同理心和真正的理解。臨床心理學家 Mary Alvord 博士表示，早期研究顯示一些青少年對AI產生了強烈的依戀，這可能會妨礙他們學習現實世界的社交技能。

Mary Alvord 指出「青少年很容易將聊天機器人的程式化回應誤認為是真正的同理心。」但無論AI看起來多麼友好或樂於助人，它都無法取代人際關係的情感深度。父母可以在幫助青少年辨別差異，以及鼓勵他們建立現實世界的聯繫發揮關鍵作用。

󠀠

家長可以做的：讓孩子展示他們正在使用的 AI 工具。幫助他們理解，這些工具提供的是程式化的回應，而不是真正的人際關係。鼓勵人與人的互動，確保AI能夠補充，而不是取代人際互動。

󠀠

二、AI 健康資訊可能具有誤導性

󠀠

數據顯示，青少年經常在網路上搜尋健康資訊，而當青少年上網搜尋時，AI 可能會產生看似權威的不正確資訊。Wellesley 婦女中心及青年、媒體與健康研究實驗室創始人 Linda Charmaraman 博士表示，這種精心設計的呈現方式可能會使虛假或有爭議的健康資訊顯得格外令人信服，可能導致衝動決策或延誤治療。

󠀠

Linda Charmaraman 博士表示：「當存在許多的灰色地帶時，青少年可能會尋求一個明確、通用的答案。」青少年仍在學習如何衡量可信度，而 AI 可以通過聽起來自信可靠，來模糊這些界限。建議家長可以通過鼓勵，提升好奇心來提供幫助：「這條建議背後的人是誰？」或者「這些資訊與我這樣的青少年相關嗎？」這些都是可以一起問的好問題。

󠀠

家長可以做的：提醒孩子，AI 提供的健康資訊絕對不能取代專業的醫療建議。鼓勵他們在採取行動之前，先與家長、醫療保健提供者、心理健康專家或其他值得信賴的成年人核實健康資訊。

󠀠

三、青少年資料被利用，隱私面臨風險

󠀠

AI 收集青少年的大量個人資訊，包括行為模式和偏好，並經常將其用於定向廣告或與第三方共享。Rutgers University-New Brunswick 心理學助理教授Jessica Hamilton 博士指出，青少年可能沒有意識到他們的數據是如何被使用的，或者AI有時會如何助長偏見。

󠀠

「大多數青少年並沒有意識到有多少個人資料被追踪，以及這些資訊會被用來影響他們的瀏覽、購買，甚至感受。」Hamilton 博士提到。「父母不需要是技術專家，但可以幫助孩子就他們使用的應用程式以及誰在從他們的數據中獲益，提出一些明智的問題。」

󠀠

家長可以做的：一起檢查設備和應用程式的隱私設定。尋找AI的功能，並了解哪些資料會被收集。選擇具有強大隱私保護的平台，並幫助您的孩子了解他們的資料可能被如何使用。

󠀠

四、AI 可以成為一種有價值的學習工具

󠀠

AI 如果運用得當，能夠帶來真正的教育效益。它可以協助進行腦力激盪、組織資訊，並提供個人化回饋。目標是幫助學生利用 AI 來提升學習效果，同時培養他們自身的分析能力。然而，至關重要的是，學生不要過度依賴人工智慧，這可能會阻礙他們自身知識和技能的發展。目標應該是利用 AI 工具來補充，而非取代傳統的學習方法。

󠀠

家長可以做的：鼓勵孩子主動質疑AI產生的內容，而不是單純地接受它。幫助他們理解AI的局限性，並確保他們在使用這些工具的同時，培養自己的解決問題的能力。

󠀠

【如何與孩子談論 Deepfake？】

󠀠

身為父母，與孩子開誠佈公討論Deepfake（深度偽造）的潛在風險至關重要。以下是一些引導討論的技巧：

󠀠

一、教育孩子：解釋什麼是深度偽造，以及它們如何被濫用造成危害，確保孩子明白，並非所有網路內容都是真實的。

󠀠

二、鼓勵數位素養：幫助孩子培養識別虛假內容的能力。鼓勵他們在相信媒體訊息之前，先質疑其來源。

󠀠

三、討論同意與界線：分享圖片或影片時，討論「徵求同意」的重要性。提醒一旦分享，就可能超出他們的控制範圍。

󠀠

四、提供支援：讓孩子知道，如果他們感到不舒服或遭受網路騷擾，他們可以向父母尋求幫助，而不必擔心受到評判。

󠀠

利用AI偽造同學裸體照牟利 西班牙青少年遭調查 | 國際 | 中央社 CNA