根据机器智能研究所执行主任 Nate Soares 的说法，就好像我们知道十年后外星人将入侵我们，而我们没有采取任何措施来阻止它。博斯特罗姆更加谨慎：并不是说人工智能会对我们怀有敌意，但它对残忍的程度漠不关心，就像我们对待其他物种一样。如果我们要求人工智能最大限度地生产回形针，它可能会将地球上所有有用的材料都变成回形针并摧毁其余的。13. 伯克利大学人工智能专家斯图尔特·罗素认为，这本质上是一个沟通问题：我们必须学会以逻辑的方式将我们的愿望传达给机器，而它们必须学会观察人类行为、提取推理并确定优先级行动。矛盾的是，所有这些都会使他们更接近人类的状况。
机器的权利 来自世界各地的法学家讨论的关于人工智能假设权利的一个话题是其日益频繁的“创作”的版权：由算法制作的文本、图像和音乐。到目前为止，人们一致认为不承认人工智能的版权，这留下了一个重要的法律真空。 几年前，随着国际象棋大师大卫·利维（David Levy）出版了《与机器人的爱与性爱》一书，引发了一场关于与人造人打交道 电子邮件列表 的更奇怪的辩论，他开始参与人工智能的开发。国际象棋直到最终成为性爱机器人。“一个性爱机器人——利维说——可以让我们通过新的体验来缓解我们的无聊和性紧张，即使没有情感上的负担。” 答案来自反性机器人运动集体，该组织问自己习惯与男性机器人或女性机器人发生性关系的人会发展出什么样的行为类型。它不能拒绝（或者更糟的是，它可以被编程为拒绝只是为了满足抵抗和随后屈服的幻想）14. 争论并没有脱离以人类为中心的象限：它是关于人类的愉悦与可能的人类客观化。但是，如果人工智能被完善，
可以将情感作为数据整合到算法中并从中学习，那么针对机器的暴力会产生什么影响呢？在什么时候，他们理解和解释人类行为的能力不会迫使我们在面对他们时限制我们的行为？这些限制在什么时候不会成为新伦理的基础？ 它们不是人工智能引入的困境，它只会更新它们。机器人技术就是在这种怀疑的标志下诞生的。请记住，“机器人”这个词出现在Karel Čapek的 1920 年rur戏剧（Rossum 的通用机器人）中。在剧中，rur是一家为工作制造机器人的公司。直到一个激进分子用人类的感情给他们接种。机器人反抗，但rur无法停止制造它们，因为人类依赖于它们的工作。