www.design-reuse-china.com
搜索,选择,比较,与提供商进行安全高效的联系
Design & Reuse We Chat
D&R中国官方微信公众号,
关注获取最新IP SOC业界资讯

The rise of AI and ML: The future risks are unpredictable?

Adriana Veasey, Studyton.com撰稿人, Apr. 30, 2019 – 

无论你是否察觉,人工智慧(artificial intelligence;AI)和机器学习(machine learning;ML)已经掌控当今线上生活的一大部份了。例如,这些技术决定了在你订阅的新闻服务中所要显示的内容,并自行定义用户存取亚马逊(Amazon)线上服务时将会看到什么。

如今,演算法帮我们决定了要缴多少保险费、是否符合申请贷款资格,或者履历资料是否有机会获选至下一轮的审查。此外,AI和ML如今在医疗领域也相当「热门」,它可用于协助进行诊断、预测疾病发生等等。

我们正经歴一场物联网(IoT)的革命——无人驾驶车、智慧家庭、智慧家电、智慧电网,甚至是智慧城市等等。医疗专业人员如今可在远端监控患者,当然,别忘了还有Siri和Alexa。

确实,在我们生活的这个美好世界中,由于有了技术,持续让我们的生活变得更轻松也更高效。

力量与责任

拥有这些力量不仅改变了我们生活,也带来更大的责任,甚至还滥用这种权力——这正是特斯拉(Tesla)执行长Elon Musk等人所担心的。 Elon曾经在一次采访中,针对AI和ML发表了这样的看法:

「我们正迅速走向远远超越任何人类的数位超强智慧(superintelligence)——我认为这一趋势相当明显......如果一家公司或特定团体顺利发展出如神一般的数位超强智慧,他们就可能统治整个世界......但至少邪恶的独裁者最终会有死亡的一天,而AI可不像人类一样会面临死亡。它将会『永垂不朽』,我们将被笼罩在此永恒独裁者的阴影之下,永远无法逃脱。」

许多研究人员和科学家都支持Musk的看法,如Stephen Hawking。他预测如果AI和ML的研究和实施未能受到严格监管,那么人类将会面对这样的世界末日。

另一方面,反对阵营则坚持认为AI和ML永远不可能取代人类的全部智慧,因而人类仍然可以控制它。

AI和ML将带来哪些风险?

这正是争议的症结所在。目前,我们拥有所谓的狭义AI或弱AI (Weak AI),其目标在于完成一系列各自独立的任务(如驾驶汽车、保护电网、下棋、透过脸部辨识来识别人员等)。

然而,许多人的长期目标是开发所谓的强AI,它可执行认知(思考、推理)任务。想像一下,例如,一套致命的武器系统,可以在没有任何人为干预或控制的情况下决定部署武器的地点和时间。这样的系统如果落入一个国家手中,足以使世界上的其他国家陷入瘫痪。

此外,超强AI并不会有人类的情感,因此在本质上也不会有善意或恶意之分。然而,它极其有效率,知道如何采取「最短路径」来实现目标,但并不考虑在过程中可能造成的破坏。例如,假设搭载AI的机器被赋予的任务是为新的铁路系统清理出一大片区域。在执行此任务的过程中,如果它破坏地下输油管,从而释放出有毒污泥,而破坏该区的整个生态系统并使当地水系统面临风险呢?如果未能先将保护生态系统定义为该机器的目标之一,那么它无论如何都会持续进行而不考虑后果。

担心未来发生这些情景的人们(认知AI和ML一直在学习且比人类「更聪明」)认为,我们必须弄清楚如何在AI系统成为超强智慧之前先嵌入设定的目标。

是进化而不是革命?

认知AI预计并不会在短期内出现。事实上,就算确实如此,关于超强AI还有多久将成为现实,即使是专家们也莫衷一是。但是,随着技术的发展,我们必须提前在它出现之前先计划好各种可能性,以避免恶意卷入其中,或者出现意想不到的后果。

大部份的认知AI都不会产生可怕的后果,但其可能性仍然令人担忧。例如,当今许多学生都找到了可为其撰写论文和报告的方法。包括Wow Grade.net等公司提供了写作和内容创建服务。未来,使用认知AI将使学生能够更轻松地完成作业,让超强智慧技术为其决定论文主题、寻找资源,甚至构思并创造「原始」的文章内容。就这一点来看,学生们当然都未能亲自完成作业,但也不是什么「罪大恶极」的后果,然而,他们其实什么都没学到(除了知道如何作弊),这一事实对未来却极其不利。

再回头看看较早的讨论——AI系统的任务在于执行一些有益的事情,但却可能在无意中导致了毁灭性的后果,如先前提到生态系统和当地供水系统被破坏等。透过编程超强AI,应该就能避免此类行为。

因此,超强AI的整个问题似乎并不仅在于AI的一项效率(它将会是完全高效的),而是使其认知智慧符合人类的目标。如果我们只关注于效率,那么AI将会不择手段地让我们达到所要求的目标。

现在开始规划和立法!

在波多黎各(Puerto Rico)举行的2015年AI安全会议(2015 Future of Life AI Safety Conference)上,大多数的AI研究人员预测认知AI将会在2060年出现。如果是这样的话,那么我们必须立刻开始进行有关安全的研究。

人类目前统治地球,因为我们是地球上所有物种中最聪明的。但是,当超强AI持续自我学习与提升而变得更智慧后,将会发生什么呢?未来又将由谁统治呢?

 Back

业务合作

广告发布

访问我们的广告选项

添加产品

供应商免费录入产品信息

© 2023 Design And Reuse

版权所有

本网站的任何部分未经Design&Reuse许可,
不得复制,重发, 转载或以其他方式使用。