Hauptmann表示使用車牌跟蹤功能跟蹤車輛是"一個(gè)已經(jīng)得到解決的實(shí)際問題"，在受控設(shè)置中的面部識別也是一樣的。（使用低質(zhì)量的閉路電視監(jiān)控視頻進(jìn)行面部識別就完全是另一回事了。）對汽車和衣物等物品的識別也非常可靠，在多臺攝像機(jī)之間自動跟蹤一個(gè)人也是可以實(shí)現(xiàn)，但前提是條件是正確的。Hauptmann表示："在一個(gè)非擁擠的場景中跟蹤一個(gè)人的效果可能非常好，但是在擁擠的場景中，還是算了吧。"他表示，如果這個(gè)人穿著的是不起眼的服裝，要做到這一點(diǎn)就特別難。
一些人工智能監(jiān)控任務(wù)已經(jīng)解決了；另外一些還需要繼續(xù)努力
但是，即使是這些非常基本的工具也可以產(chǎn)生非常強(qiáng)大的效果。比如在莫斯科，一個(gè)類似的基礎(chǔ)設(shè)施正在組裝，將面部識別軟件插入到一個(gè)集中式系統(tǒng)中，該系統(tǒng)擁有超過10萬臺高分辨率攝像頭，覆蓋了這個(gè)城市90%以上的公寓入口。
在這種情況下，可能會有一個(gè)良性循環(huán)，隨著軟件越來越好，系統(tǒng)會收集更多的數(shù)據(jù)，從而幫助軟件變得更好。Hauptmann表示："我認(rèn)為這一切都會有所改善。"他表示："這種情況正在出現(xiàn)。"
如果這些系統(tǒng)已經(jīng)在工作了，那么我們就已經(jīng)有了像算法偏差這樣的問題。這可不是一個(gè)假設(shè)的挑戰(zhàn)。研究表明，機(jī)器學(xué)習(xí)系統(tǒng)吸收了為它們編寫程序的社會的種族歧視和性別歧視--從總是會將女性放置在廚房的圖像識別軟件到總是說黑人更容易再次犯罪的刑事司法系統(tǒng)，比比皆是。如果我們使用舊的視頻剪輯來訓(xùn)練人工智能監(jiān)控系統(tǒng)，例如采集自閉路電視視頻監(jiān)控或者警察佩戴的攝像頭的視頻，那么存在于社會中的偏見就很可能會延續(xù)下去。
Meredith Whittaker是紐約大學(xué)（NYU）關(guān)注道德的"AI Now"研究所的聯(lián)席主任，她表示，這個(gè)過程已經(jīng)在執(zhí)法過程出現(xiàn)了，并將擴(kuò)展到私有部門。Whittaker舉出了Axon（以前被稱為Taser）的例子，該公司收購了幾家人工智能公司，以幫助其將視頻分析功能集成到產(chǎn)品中。Whittaker表示："他們得到的數(shù)據(jù)來自警察佩戴的攝像頭，這些數(shù)據(jù)告訴了我們很多關(guān)于單個(gè)警務(wù)人員會關(guān)注誰的情況，但是并沒有給我們一個(gè)完整的描述。 "她表示："這是一個(gè)真正的危險(xiǎn)，我們正在將帶有偏見的犯罪和罪犯的圖片普遍化。"
ACLU高級政策分析師Jay Stanley表示，即使我們能夠解決這些自動化系統(tǒng)中的偏見，也不能使它們變得良性。他說，將閉路電視視頻監(jiān)控?cái)z像頭從被動的觀察者轉(zhuǎn)變?yōu)橹鲃拥挠^察者可能會對公民社會產(chǎn)生巨大的不利影響。
"我們希望人們不僅僅擁有自由，還要感受到自由。"
Stanley表示："我們希望人們不僅僅擁有自由，還要感受到自由。這意味著他們不必?fù)?dān)心未知的、看不見的觀眾會如何解釋或曲解他們的每一個(gè)動作和話語。" Stanley表示："要擔(dān)心的是人們會不斷地自我監(jiān)控，擔(dān)心他們所做的一切都會被曲解，并給他們的生活帶來負(fù)面的后果。"
Stanley還表示，不準(zhǔn)確的人工智能監(jiān)控發(fā)出的錯(cuò)誤警報(bào)也可能導(dǎo)致執(zhí)法部門和公眾之間更加危險(xiǎn)的對抗。比如說，想想看Daniel Shaver的槍擊事件吧，在看到Shaver拿著槍后，一名警察被叫到德克薩斯州的一個(gè)旅館房間里。警長Charles Langley在Shaver按照他的要求趴在地面上時(shí)，開槍射殺了他。而Shaver被發(fā)現(xiàn)持有的槍是一支粒丸槍，這是他用來從事他的害蟲控制工作的。
如果一個(gè)人可以犯這樣的錯(cuò)誤，電腦還有什么機(jī)會？而且，即使是監(jiān)控系統(tǒng)變得部分自動化，這樣的錯(cuò)誤會變得更加常見還是更少？Stanley表示："如果技術(shù)出現(xiàn)在那里，就會有一些警察不得不照看那里。"
當(dāng)人工智能監(jiān)控變得普及的時(shí)候，誰來管理這些算法呢？
Whittaker表示，我們在這個(gè)領(lǐng)域看到的只是人工智能大趨勢的一部分，在這個(gè)趨勢中，我們使用這些相對粗糙的工具，嘗試著根據(jù)人們的形象對他們進(jìn)行分類。她列舉了去年發(fā)表的一項(xiàng)有爭議的研究作為一個(gè)類似的例子，該研究聲稱能夠通過面部識別來確定性取向。人工智能給出的結(jié)果的準(zhǔn)確性值得懷疑，但批評人士指出，它是否有效并不重要；重要的是人們是否相信它有用，并且是否會仍然使用數(shù)據(jù)做判斷。
Whittaker表示："令我感到不安的是，許多這樣的系統(tǒng)正在被注入我們的核心基礎(chǔ)設(shè)施之中，而且沒有讓我們可以提出關(guān)于有效性問題的民主程序，也沒有通知大家將要部署這些系統(tǒng)。"Whittaker表示："這不過是正在出現(xiàn)的又一個(gè)新的例子：算法系統(tǒng)根據(jù)模式識別提供分類并確定個(gè)體類型，可是這些識別模式是從數(shù)據(jù)中提取的，而這些數(shù)據(jù)里包含了文化和歷史的偏見。"
當(dāng)我們向IC Realtime公司詢問人工智能監(jiān)控可能如何被濫用的問題時(shí)，他們給出了一個(gè)在科技行業(yè)常見的答案：這些技術(shù)是價(jià)值中立的，只是如何使用它們以及由誰來使用它們才決定了它們是好是壞。Sailor表示："任何新技術(shù)都面臨著有可能落入不法之徒的手中的危險(xiǎn)。"Sailor表示："任何技術(shù)都是如此……而我認(rèn)為在這個(gè)問題上，利遠(yuǎn)大于弊。"