AI如何介入印度大選？

印度總統大選從今年4月一路持續到6月初，在這個過程中，有一類廠商異常忙碌，那就是擅長深偽技術（deepfake）的專家。

政治人物只要在綠幕前，被記錄自己的聲音、表情數據，廠商就能協助他們用AI製作成千上萬的音頻、圖像、影片。

在一通通競選電話裡，他們可以致電選民，直呼選民的名字，說出他們每個人特別關注的議題——就像是特別針對每一位選民撥打的一樣。

在影片中，政治人物會說各種印度方言，同樣是量身打造談論每位選民在意的主題。

這些深偽公司，撥打了超乎想像的通話量。根據《連線》雜誌，其中一家名為iToConnect的公司僅在兩週就撥出2,500萬通。

一般來說，選民通常希望候選人接近他們、與他們交談。當候選人無法挨家挨戶拜訪時，AI電話就成為聯繫他們的好方法。農村選民尤其會在收到這類電話後，感覺自己被重視了。

「收到電話的選民，出現在黨部辦公室，表達了他們對接到候選人電話以及被『點名』的喜悅之情，」《連線》的科技記者們觀察，「他們不知道自己其實一直在聽AI講話。」

幕後的深偽專家

政治人物和政黨掌握這項技術有明顯的好處，也就是低價的大規模個人化服務。在客服中心，使用每次真人通話的成本是4盧比（1.55元台幣），但AI通話只要八分之一。AI通話還可以按地區、性別、年齡客製化內容，比傳統預錄好的語音宣傳更有吸引力。

廣告

在美國一些州，在競選中使用這樣的技術已被定義違法；但在印度，它不但不違法，還受到所有主流政黨青睞，包含執政的印度人民黨和主要反對黨國大黨。

31歲印度青年賈杜恩（Divyendra Singh Jadoun）成立的Polymath Synthetic Media Solutions，就是這個領域的代表，他接受了許多外國媒體的採訪，談論他如何幫助政治人物製作AI政治宣傳內容。

賈杜恩表示，在這個選舉季，他已經展開5次AI競選活動，他的公司總共獲得55,000美元（176萬台幣）的報酬。製作AI化身的費用是1,500美元（4.8萬台幣），音頻是720美元（2.3萬）。此外，他也為政治人物製作AI生成的歌曲。

疫情時，關在家裡的賈杜恩開始實驗許多技能，他在看了黑眼豆豆將歌手的臉置換入印度電影的一部MV後，決定開始嘗試深偽技術，並在社群媒體上分享成果。他熱門的深偽貼文馬上引起了大批粉絲的追隨，以及政治相關工作者的注意。

廣告

第一個找上他的是政治顧問維許諾（Sagar Vishnoi），他請賈杜恩為德里的印度人民黨政治人物塔瓦里（Manoj Tiwari）做了首個AI影片，成為2020年的印度頭條新聞。在那之後，他開始在國際上出名，現在收到了250多個尋求這類服務的，來自全球的政客需求。

賈杜恩也從單打獨鬥擴張成為9人團隊，並且想將三層住家辦公空間的其中一層，改造成培訓機構，讓更多青少年加入團隊，學習深偽技術。

賈杜恩的作品是只是印度AI政治宣傳的冰山一角。在印度，還有多家從事價值數百萬美元深偽活動的公司。

監管真空

雖然賈杜恩表示，他不會使用深偽技術來傳播錯誤訊息，他也是「AI道德聯盟」宣言的簽署人之一，但仍有專家認為，這還是踩到了紅線。

廣告

非營利組織Witness的執行董事格雷戈里（Sam Gregory）指出，深偽的關鍵問題是「缺乏同意、揭露和實質內容」，「提升選民參與度、讓候選人更人性化，和欺騙行為之間，只有一線之隔。」

格雷戈里認為，賈杜恩可能得到了他所效力的政客的同意，但他們致電的選民可能不知道他們一直在與機器人交談。

雖然不清楚有多少AI深偽政客，但專家表示，他們發現這在全球選舉中增加了。

加州大學柏克萊分校資工教授哈尼法里德（Hany Farid）表示，「我今年看到的政治深偽比去年更多，而且更加複雜和引人注目。」

儘管從布魯塞爾到華盛頓的立法者和監管機構正在競相制定新法規，限制在競選過程中使用人工智慧驅動的音頻、圖片和影片，但我們正處在一個監管真空地帶。

廣告

歐盟具有里程碑意義的《人工智慧法案》要到六月議會選舉後才會生效；在美國國會，禁止使用AI虛假描述聯邦候選人的立法，不太可能在11月大選之前成為法律。最麻煩的是，即使部分美國的州有法可管，也很難管到那些在社群媒體或群組聊天中快速傳播的假訊息。

《華盛頓郵報》寫道， AI的民主化意味著，要仰賴像賈杜恩這樣的個人——而不是監管者——做出道德選擇。

歐盟委員會副主席朱羅娃（Vera Jourova）表示，她已向歐洲成員國的主要政黨發出信函，「懇求」它們抵制這類操縱性的手段。不過她無奈說道，如果政治人物和政黨不聽從她的要求，也不會面臨任何後果。

隨著印度選舉接近尾聲，不只是這個世界上最大的民主國家，全世界都正奔向一個不確定的、由AI驅動的未來。

廣告

（資料來源：WP, Wired, BBC, Bloomberg）