科技 新浪科技 被Uber演算法解僱的司機,現在要把這家公司告上法庭

被Uber演算法解僱的司機,現在要把這家公司告上法庭

原標題:被Uber演算法解僱的司機,現在要把這家公司告上法庭

e9fb-kefmphc1716398.png

大數據文摘出品

來源:wired

編譯:Hippo、miggy

4個Uber司機認為,該公司的演算法錯誤地指控他們欺詐。現在他們希望法院可以迫使公司披露其神秘的決策過程。

Shahid 就是其中一位Uber司機,新冠疫情期間,每周六日他都在伯明翰街道附近通過Uber平台接單。在過去的五年裡,他為自己爭取到了一個很不錯的評分:4.96分(滿分5分)的客戶評價和金牌駕駛員身份,但就在8月初的一個早晨,他發現他無法登錄系統接客了。

誰能接單?賺多少錢?這些都是Uber演算法說了算。該演算法監測到他「對Uber平台持續不當的使用」並已禁止他使用該系統, 而他聲稱自己並沒有違背相關規定。

他表示,Uber還拒絕確切告訴他做錯了什麼。他所收到的信息寫道:「我們沒法給出確切的細節,只能給出不當使用的例子,包括:同時使用乘客和司機帳戶、創建重複帳戶、接受無意完成的訂單、收費欺詐、安裝及使用能夠操縱司機APP和行程詳細信息的軟體。基於上述原因,我們決定終止合作關係。你將不能通過Uber App提供獨立的服務。」

根據Uber的條款,Shahid被定性為「欺詐者」。儘管他否認有任何錯誤行為,但並沒有任何上訴的途徑。瞬間他失去了70%的收入,此後只能靠打車平台Ola謀生。

Shahid不是唯一一個陷入類似困境的司機。2019年7月,也就是Shahid被取消運營資格一年前,Ali 在倫敦打開Uber準備上班卻發現他無法登錄。他收到Uber的信息,說他的帳戶已被標記為「違反Uber的 條款和政策」。信息寫道:「審查你最近的行程時,我們發現許多與欺詐有關的非正常行程。你的帳戶已被標記為不當使用,因此已被停用。不幸的是,停用是永久的。」

作為4個孩子的父親,Ali宣稱該APP是錯誤的,像Shahid一樣,他否認有任何不當行為。他是個全職Uber司機,幾個月前剛剛籌資買了一輛價值29000英鎊的汽車,以使Uber APP可以評估他的車為商務車 。被解僱后,他還得為一輛無法使用的汽車償還貸款。「在過去一年半里,我持續給Uber發送電子郵件、打電話,至少有50、60次。我遇到了困難,我懇求他們但沒有回應。」Ali說。

Shahid和Ali對Uber提起了訴訟,指控該公司通過演算法對他們進行「攻擊」。在這4名司機中,3名來自英國、1名來自葡萄牙,他們聲稱沒有參与欺詐活動,Uber也沒有拿出任何證據能夠證明將他們開除是合理的。Uber也沒有向警方報告這4名司機的欺詐行為。

根據相關法律(https://www.adcu.org.uk/news-posts/app-drivers-couriers-union-files-ground-breaking-legal-challenge-against-ubers-dismissal-of-drivers-by-algorithm-in-the-uk-and-portugal),法院應否決導致司機被解僱的演算法,並強迫Uber分享其收集的相關司機以及用於解僱他們的信息。

這是根據《通用數據保護條例》(GDPR)第22條提起的首單此類訴訟。歐盟在2018年頒布了GDPR,該條款旨在保護用戶數據,允許歐洲公民在認為演算法(或僅由演算法)作出與他們相關的決定時提供詳細信息。

如果他們獲得成功,那麼大量其他法律糾紛將隨之而來。代表4名司機提起訴訟的「司機和快遞員應用聯盟」 (App Drivers&Couriers Union,ADCU)表示,自2018年以來,已經有超過1000多個私人案件,這些案件均是因為演算法的錯誤導致司機被誤認為存在欺詐行為,致使賬戶被立即中止且無權申訴。

ADCU的司機代表James Farrar認為,Uber不能證明在其禁令中存在「有意義的」人為干預,因為司機在提出訴求時得到的都是自動回復。

該論點是針對Uber索賠的核心,根據信息專員的觀點(https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/),如果人工智慧系統僅用來支持或增強人類的決策能力,那麼它將不受這些條款的約束。但是,一項決定不能僅僅因為已經「蓋章」而超出GDPR第22條的範圍:人類需要有意義的投入。

英國信息專員辦公室(Information Commissioner's Office,ICO )和歐洲數據保護委員會( European Data Protection Board)都曾表示,審閱人員必須積极參与檢查系統生成的建議,並且不應「例行的」將自動生成的結論應用於個人;而且人類的參与必須是積極的,而不僅僅是象徵性的姿態。指導意見指出,人應該對決策產生實際影響,具備審核系統自動生成建議的「許可權和能力」。

但這些疑議並沒有考慮到Uber演算法中嵌入的新信息。Farrar聲稱,自從Uber去年推出實時ID驗證技術以來,自動解僱的情況有所增加,以幫助解決其與倫敦交通局(TfL)的許可證問題。他說,TfL在此解僱過程中是「負有連帶責任的」,因為該機構促使Uber進行實時驗證,這反過來又導致Uber「緊急上線有缺陷的技術並加劇了現有問題」,但是對此TfL拒絕置評。

實時ID技術會定期要求司機為自己拍照以進行驗證。然後,將這些自拍照與帳戶持有人的個人資料圖片進行匹配,然後再根據駕照進行檢查。如果駕駛員未通過ID檢查,則他們的帳戶將被暫時停用,等待進一步檢查,然後可能無限期地被停用。

但是這項措施並未得到倫敦的交通運輸當局的認可。在發現14000次行程中的43名司機在APP上偽造身份后,當局決定吊銷Uber的倫敦牌照。涉案的41名駕駛員被TfL吊銷了駕照(其中2人無牌)。Uber成功贏得了之後的上訴,獲得了在倫敦運營的18個月臨時許可證。9月28日的判決書指出,Uber與TfL之間的溝通已有所改善,法院對公司為保護客戶對平台所做的改進感到滿意。

但是這種交涉並不一定要延伸到司機,他們長期以來一直抱怨Uber演算法不夠透明。演算法為決定誰獲得工作以及獲得多少報酬奠定了基礎,並針對不端行為、遲到等問題的對司機進行評分。

2020年1月,Uber為英國的司機實施了一項名為「忠誠」的計劃,提供免費的教育課程、路邊援助、健身房會員資格和汽車保養打折,司機可以通過每趟行程積累的「積分」來換取相關服務。Uber 鼓勵司機接受行程以達到各個狀態:藍色(基本級別)、金(倫敦500點,其他地區600點),白金(倫敦900點,其他地區1200點)和鑽石(倫敦1300點,其他地區1800點) 。但司機表示他們不知道該演算法如何通過這個分級系統來確定上車的乘客會是誰。

當司機不想接客時會發生什麼?這一點也無從得知。ADCU指的是Uber的共享準則,該準則將欺詐行為定義為拒絕派單以及為等待更高的溢價而選擇性的退出登錄。該機構指控Uber將原本屬於業績原因而導致的解僱行為偽裝成因欺詐行為而導致的解僱行為,以此來減輕它本應對司機們履行的義務。

新冠疫情期間,被Uber停用的司機一直在努力彌補收入損失。英國第3位向Uber提起訴訟的司機Ravi說:「目前我為Bolt、Ola和FreeNow工作(類似於Uber和滴滴,都是一站式出行平台),疫情很可怕。我每天從凌晨5點開始工作,到下午2點左右能賺27英鎊,這比以前少多了,以前每天可以賺到150到200英鎊。」

在倫敦被解僱的司機將有14天的時間向TfL解釋為什麼他們不該被解僱,但問題是他們不知道自己被指控什麼,或者如何證明自己的清白。本周啟動的GDPR索賠所涉及的2名司機表示,今年夏天Uber分別與他們取得了聯繫,那已經是他們被解僱一、兩年之後了。

Farrar表示:「這是監管疏忽,向司機求證他們幾年前所做的事情並不是真正明智的執法,由於TfL忽略了司機的工作條件,這種行徑實際上使得實際操作的合理性更差了。」

相關報道:

https://www.wired.co.uk/article/uber-fired-algorithm

實習/全職編輯記者招聘ing

加入我們,親身體驗一家專業科技媒體采寫的每個細節,在最有前景的行業,和一群遍布全球最優秀的人一起成長。坐標北京·清華東門,在大數據文摘主頁對話頁回復「招聘」了解詳情。簡歷請直接發送至zz@bigdatadigest.cn

志願者介紹

原標題:《被Uber演算法解僱的司機,現在要把這家公司告上法庭》