九九精品久久久久久噜噜中文,国产欧美丝袜在线二蜜芽tv,91桃色成人网站在线观看免费

妙鴨相機爆火之下，AI寫真的安全問題怎么辦？

2023-07-27 13:47

文/陳根

近日，“妙鴨相機”爆火。

作為一款AI寫真小程序，我們只要通過這個小程序，上傳一定數(shù)量的照片，選擇好模版，就可以一鍵生成AI風格化寫真，包括肖像照、藝術照、證件照等。

雖然首次生成需要支付9.9元的數(shù)字分身制作費，不過，相比動輒幾百上千的攝影工作室約拍價格，9塊9幾乎是可以“無腦沖”的程度。妙鴨相機在爆火的同時，也引發(fā)了人們對于AI寫真的倫理與安全問題的擔憂。

AI寫真面臨的倫理與安全問題之所以會被關注，核心原因就在于基于AI的技術進入了真正落地應用的階段，不論是寫真，還是醫(yī)療，或者是文本，都會面臨安全與倫理的問題。但AI寫真的安全與倫理問題相對比較急迫，不僅牽涉到潛在的詐騙問題，更會牽涉到借助于AI生成技術導致的一些照片與小視頻換臉問題。

同時，在AI寫真技術目前，肖像權的保護與個人肖像隱私，以及基于人臉識別系統(tǒng)的一些安全措施都將面臨著根本性的挑戰(zhàn)。尤其是包括妙鴨在內的各種AI照片寫真與合成技術，對于用戶而言在使用之前更重要關注的是這些平臺數(shù)據(jù)的安全保護措施。

對于擁有這些人像生成AI技術的平臺而言，當前首先考慮的并不是商業(yè)化的問題，而是如何保障用戶數(shù)據(jù)庫的安全，這些數(shù)據(jù)庫的安全不僅牽涉到用戶隱私安全，還牽涉到國家安全層面。

因此，我們看到白宮在前幾日緊急召集AI巨頭企業(yè)到白宮商議對策。這讓我們看到了正在到來的人工智能時代，人類社會已經有了明確的基本共識，就是要借助于技術的約束來讓AI技術服務于人類，讓AI成為人類社會的效率提升工具。要借助于有效的技術方式，保障AI在安全與可控的倫理范圍內發(fā)展。

AI巨頭在白宮的壓力下，提出了八項技術的安全措施。這可以說是全世界所有從事于AI開發(fā)與訓練企業(yè)需要學習的地方，就是在追求AI技術發(fā)展的同時，必須要考慮對AI技術的監(jiān)管，以及要考慮AI萬一偏離設想后的風險管控與干預。

訓練AI服務于人類社會很難，但是如何再AI自我學習的情況下，能夠管控AI不偏離服務人類社會的這個設想更難。

原文標題 : 陳根：妙鴨相機爆火之下，AI寫真的安全問題怎么辦？