芬蘭反歧視及平等審裁局日前宣布，禁止在金融信貸中“歧視性”地使用人工智能。

在該部門審查的一個案例中，芬蘭某金融機構(gòu)僅根據(jù)申請者的性別、語言、年齡和居住地等信息就拒絕其信貸申請，而沒有讓申請者提供財務(wù)狀況。審裁局認(rèn)為，僅根據(jù)數(shù)據(jù)而不做個人評估就對客戶信用作出評定是一種歧視行為。

同時，這家金融機構(gòu)的自動化系統(tǒng)會篩選使用芬蘭語和瑞典語的人群，這實際上會讓使用其它語言的人處于不利地位。審裁局認(rèn)為，基于申請者所使用語言來做財務(wù)評估，是明顯的歧視行為。

鑒于此，芬蘭反歧視及平等審裁局責(zé)令該金融機構(gòu)不得“以歧視的方式”使用統(tǒng)計方法，并對其處以10萬歐元的罰款，警告其不得繼續(xù)對客戶實施歧視行為。這是該部門首次對自動化程序信貸評估導(dǎo)致歧視現(xiàn)象作出裁決。不過，審裁局并沒有完全禁止在信用決策中使用人工智能。

受處罰的金融機構(gòu)辯解稱，審查申請人的個人財務(wù)狀況會增加貸款過程的成本，他們使用的系統(tǒng)并無不當(dāng)之處，因而該機構(gòu)將會就這一裁決向行政法院提起上訴。

芬蘭平等監(jiān)察官基爾西·皮米埃在接受《赫爾辛基新聞》采訪時說，她曾與該金融機構(gòu)進行過商談，試圖尋求雙方均可接受的解決方案，但沒有達成一致意見，最終導(dǎo)致這項禁令。

皮米埃表示，她還將與其他金融機構(gòu)保持接觸，以便找到在信貸決定中使用人工智能可能會遇到的其他問題，并尋求合理的解決方案。目前，芬蘭有多家銀行在信貸工作中采用自動化信息處理和引入人工智能。

關(guān)鍵詞： 芬蘭 歧視性 監(jiān)管部門