隨著機器學習與人工智慧技術的發展，如今，越來越多的公司、個人開始利用 AI 技術，為未來下著重要「賭注」。但是，人一旦動了歪腦筋，AI 也可能會作惡，如何好好利用技術這把雙刃劍，是我們最為關注的。
5 月 25 日，由乂學教育-松鼠 AI、IEEE 教育工程和自我調整教育標準工作組、中國自動化學會、新東方、好未來等共同舉辦了第三屆 AIAED 人工智慧智適應教育峰會。在會上，來自麻省理工學院（以下稱 MIT）電腦科學與人工智慧實驗室主任 Daniela Rus 發表了相關主題演講。
對於未來人工智慧技術與演算法的發展，她認為人類需要謹慎、仔細地看待。
Daniela Rus 是機器人領域的權威專家，MIT 電腦科學和人工智慧實驗室（CSAIL）主任，曾經一手創辦了達特茅斯學院機器人實驗室。DeepTech 和麻省理工科技評論曾報導的「抓取式」軟體機器人、折紙機器人等重要論文與技術成就，都是由 Daniela Rus 和她的團隊一起研發的。
在 AIAED 大會上，Daniela Rus 對目前 AI 與機器人領域的技術前景進行了評估，並表示樂觀，她認為這當中充滿機遇。
「大家想像一下，有一天我們日常生活的所有任務都由機器人來代替了，無人機把食物送到門口，垃圾能夠自動被回收。想像一下這些智慧系統使得生活的方方面面都自動化，保證我們生活得很好，工作更加高效。」她非常興奮地說。
其實，這種場景已經在逐步實現中。早前外媒曾報導，美國喬治梅森大學（George Mason Uniersity，簡稱GMU）打造了全球規模最大的校園機器人送餐服務。送餐機器人在路上行走，可以將食物送到指定位置，學生自主取出熱騰騰的食物。
與此同時，亞馬遜、京東、阿里巴巴等電商巨頭，也在不斷嘗試通過無人機等多種方式，將物品送到用戶手中。所以，時代在不斷發展，而人類正在享受著技術帶來的便捷與美好。
但大眾也要意識到，技術是中立的，最終的結果取決於控制技術的人。若資料與算力存在很大的偏差，可能會造成難以想像的慘烈後果。
Daniela Rus 對此感到擔憂，她表示，雖然 AI 有諸多優勢，但是要警惕人類「抄近道」，該弄的東西沒有弄，欺騙技術與系統，造成很大的困擾。同時她又指出，這一切其實跟 AI 技術的關係並不大，而是與人類的控制有關。
人類需要善於利用技術上的優勢。人做人最擅長的事情，機器做機器最擅長的事情，「耍小聰明」不是正經之道。
在 AIAED 大會後，Daniela Rus 教授接受了 DeepTech 的採訪，聊了聊目前人工智慧技術難點以及未來她想研究的機器人是哪種類型等。以下是採訪實錄整理：
中美在AI領域各有千秋
DeepTech：中國和國外在 AI 技術與人才方面還存在哪些差異？中國的 AI 興起還有什麼創新的機會？
Daniela Rus：你可能看過李開複的《AI·未來》，講到中國有一定的優勢，比如中國的資料獲取量比較大，使得中國有更多的 AI 技術空間可以發揮。但從 AI 人才教育的角度來說，中國相對還比較僵化，應試教育的氛圍較為濃厚，小孩可能更重視考上哪個大學；美國則相對更靈活一些，更想著我要去解決什麼樣的問題。
中國從教育體制，包括從學生對 AI 的態度來說，可能還是有一些地方需要改善。但總的來說，中美 AI 技術人才與研究能力都是非常強大的，各有千秋，中國在這一領域還是有許多發展空間的。
技術難點與解決方案
問：AI 技術研究中有遇到什麼困難嗎？
Daniela Rus：以前，我們想像中的機器人可能都是金屬的、塑膠的，或者長得像人，或者像人一樣動作。但實際上，當我從事這項工作的時候，從一位元製造機器人的研究者角度看，機器人可能有不同的形狀，也可以有不同的功能，可能是木頭做的，也可能是布、紙做的，或者可以用食物做機器人。
用那些東西做成機器人，人可以把機器人吃到肚子裡，在肚子裡面工作，工作完了就消化掉了。所以，在技術研究中，更多要考慮的是理想與實際之間的應用關係。
問：在研究機器人技術的時候，有哪些挑戰值得和我們一起分享？
Daniela Rus：三個很重要的挑戰，第一個，如何製作大腦，機器人怎麼思考，怎麼找到問題解決方案；第二個，怎麼製造機器人的語言；第三個，人機交互。
第一個，大腦。機器人的思考過程與人類不太一樣，運行環境並沒有那麼多樣化。但在機器人實際應用中，複雜的環境挑戰，無法在實驗室中進行提前預知問題的解決方案，機器人的大腦在推理、思考、認知上都具有很大的挑戰。
第二個，製造機器人的語言化。機器人本身第一語言還是非常底層的語言，所以彼此做一個東西，需要相當長的開發時間來做底層的語言。另外，製作本身還是沒有一個非常容易的東西。
第三個，人機交互。怎麼能夠瞭解人的反應，這本身還是很有挑戰的。
問：人工智慧的計算結果常常是隨機的，不可解釋的，如何解決這個問題？
Daniela Rus：我們已經有了許多方法來解決此類問題，比如剛才提到的神經網路。目前來說，神經網路還是有很多黑盒子過程，我們無法直接解釋，也無法從資料角度給出一個解決方案，這實際是人工智慧的一個很大的課題。
但是從某種角度來說，這也是一個必然的過程。從人工智慧領域來說，打破黑盒子，解釋並給出解決方案，是一個探索過程。另外，剛才也談到，現在資料量很大，如果一個神經網路有特別多的節點，本身的複雜性就會非常高。現在有些方法可以把節點壓縮，把複雜的內容壓縮到相對簡單，比如說從 200 萬壓縮到 20 個節點等方式。
AI 技術引發的問題
問：AI 是一把雙刃劍，在資料和算力之間存在一定偏差，在某種場景，AI 也存在一定的危險性。那麼，AI 技術在教育領域下會發生哪些的極端情形？
Daniela Rus：我們一直聽到，AI 的優勢是什麼，能夠帶來多少收益等正向的話題。當然，人有無限可能，人類可能會採取作弊、欺騙等態度，也就是所謂「抄近道」，該弄的東西沒有弄，欺騙系統與技術。
這種情形是一定存在的，但實際上騙的是自己，最後呈現出的惡果並不是 AI 的問題，而是人類最終自食其果，搞垮罷了。
問：資料、演算法的歧視問題，怎麼能做到盡可能「數字公平」？
Daniela Rus：現在大家對演算法歧視問題表示關心，這是很正常的，大眾確實有這樣那樣的顧慮，我認為，這也是研究人員亟待解決的一個問題。
今年，我的項目組裡出了不同的論文，但話題都是一致的，就是怎麼解決機器學習裡面產生的偏見。我們知道，面部識別出現過很多問題，就是所謂偏見性的東西。目前來看，解決此問題的辦法，仍是深度研究。
問：AI 需要很多資料，歐洲很多國家都會覺得太侵犯隱私了，會有一些阻力。你如何判斷 AI 技術對隱私的保護產生衝突問題？
Daniela Rus：這個可能還是更容易一些，因為很多事情是雙刃劍。
談未來研究方向
問：你覺得在分散式機器人領域會有哪些發展，它的趨勢是什麼？
Daniela Rus：未來我們的生活環境裡會有很多機器人，這種情況下一定是分散式的，互相有協調問題。
比如：自動駕駛汽車，每一輛自動駕駛汽車都相當於一個機器人，它們互相之間的協調，在實際道路環境中能不能通過監測的方式，互相感知，瞭解相互位置，並互相協調。
問：您的下一步研究方向是什麼？
Daniela Rus：聚焦機器人研究的幾大方面，第一個是不同形狀、不同材料的機器人；第二個，把一個人有目標性的想法，直接轉化成機器能夠執行的命令、語句；第三個，機器人更像人，會穿衣服，這樣很好看，將機器人變得更加時尚。
問：當機器人取代人類的功能時，會產生什麼影響？
Daniela Rus：其實現在沒有必要擔憂取代的事情，首先人工智慧還沒有真正達到「人類智慧」，還差得特別遠。
另外，其實現在我們看到機器人所替代的事情，更多是可以預見的，輔助性質大於取代性質的。比如，理療師按摩要 30 分鐘，結果使用機器人方式，花 10 分鐘就結束了。
其實，重複性很強的東西，可以用機器人替代，這些都是可預見的，並沒有真正的智慧在裡面。所以，機器人取代不了人類，還差的非常遠。
本文係由DeepTech深科技授權刊登。原文連結：对话 Daniela Rus：AI 不存在双刃剑，都是人类惹的祸
