前美國首席技術官：機器人“起義”完全有可能 要這樣做才能阻止

據(jù)外媒報道，前奧巴馬政府首席技術官梅根·史密斯（Megan Smith）日前表示，機器人起義消滅人類完全有可能發(fā)生，但只要我們能夠擴大參與，慎重考慮我們希望AI提供的價值，人類就能阻止“機器人天啟”的發(fā)生。

今年7月，著名科技大佬埃隆·馬斯克（Elon Musk）曾表示，人工智能對人類文明造成了“事關存亡的威脅”。這一言論在他和Facebook CEO馬克·扎克伯格（Mark Zuckburg）之間引發(fā)了口水大戰(zhàn)，一時間公說公有理婆說婆有理。

但史密斯認為，馬斯克的觀點可能是正確的。不過她也提出了自己的計劃，以確保機器人起義不會發(fā)生。

“我的希望是，如果我們能夠擴大參與、慎重思考我們希望AI提供的價值，或許就能避免馬斯克和其他許多人所說的那種情況，”她在周二舉行的《財富》最具權勢女性峰會小組會議上說道。

史密斯在2014年被奧巴馬任命為美國政府首席技術官，直到今年1月卸任。此后，她成為了shift7公司CEO。該公司專注于提升美國各界在技術和科技教育方面的參與，不管是小學還是煤電廠。shift7的使命是，利用技術的附加力量處理社會和經(jīng)濟問題，例如販毒和暴力等等。而人工智能就是解決方案的一部分。

不過史密斯認為，現(xiàn)在業(yè)界開發(fā)的人工智能都過于雷同。據(jù)其稱，雖然全球有多達70億人口，但七個國家的約10000人編寫了所有的人工智能。這些程序員大部分是白人男性。

她還稱：“我們訓練AI所用的數(shù)據(jù)集是非常偏頗的。這就是危險所在，尤其是如果我們想讓AI學習人類的特點。”

“我們真的要基于自己的所作所為訓練AI嗎？我們有時會做壞事，讓技術武器化。因此我們必須‘凈化’自己，必須就倫理問題展開艱難的對話。我們需要就武器化AI展開討論，并弄清我們能夠對其擁有多大的控制力，”她說。