微闻

标签: 伦理问题

  • 人工智能技术滥用引发学术失范及诚信危机

    人工智能技术的快速发展为学术研究提供了新的工具,但同时也带来了新的挑战。近期多起高校学生因不当使用AI工具而被开除的事件引发了广泛关注。维尔纽斯大学在过去一年中已开除了10名违反AI使用规则的学生,这些学生在作业和毕业论文中涉嫌滥用人工智能技术。类似情况在美国顶尖学府也陆续出现:耶鲁大学的一位EMBA学生约翰·多伊因与校方就AI工具的使用产生分歧而对学校及教授提起诉讼;麻省理工学院则开除了中国留学生严某,因其在作业中利用ChatGPT修改数据并被认定为学术不端。

    这些事件不仅反映了部分高校面临的学风浮躁和学术失范问题,也凸显了当前学术评价机制的僵化和科研诚信监管体系的缺位。专家指出,尽管个别造假者可能付出代价,但现有惩处力度难以形成有效震慑,导致造假行为屡禁不止。国家自然科学基金委员会近期公布的案件处理结果,包括华中农业大学原教授黄飞若的学术不端案,进一步警示学术界需加强科研诚信建设。

    面对人工智能时代的挑战,高校需要建立更为完善的AI使用规范,并探索更具创新性的监管方式,以应对技术进步带来的伦理和诚信问题。

  • 人工智能聊天机器人的事实错误和扭曲问题

    BBC 发现 AI 聊天机器人正在扭曲新闻报道

    英国广播公司 (BBC) 的研究发现,人工智能聊天机器人在总结新闻报道时面临着事实错误和扭曲的问题。这项研究考察了 OpenAI 的 ChatGPT、谷歌 Gemini、微软 Copilot 以及 Perplexity 是否能够准确总结新闻,结果发现超过一半的人工智能生成输出存在某种形式的重大问题。作为研究,BBC 要求聊天机器人各提供100篇 BBC 新闻文章的摘要,同时记者审查他们的答案。除了在 51% 的回复中发现重大问题外,BBC 还发现 19% 引用 BBC 的答案中包含错误的陈述、数字和日期。同时,13% 引用 BBC 的内容“要么与原始出处有出入,要么在引用的文章中不存在。”

    —— TheVerge

  • 瑞士因首次使用“安乐死胶囊舱”而被捕

    多人因在瑞士首次使用“安乐死胶囊舱”涉嫌“协助自杀”而被捕

    瑞士北部警方表示,周一在一座森林小屋附近发生了一起涉嫌“协助自杀”事件中已拘留数人,并已立案调查。这是 3D 打印的 Sarco 胶囊仓的首次使用,其设计允许坐在里面的斜倚座椅上的人按下按钮或做出手势,将氮气注入密封舱。然后这个人就会睡着,并在几分钟内窒息而死。瑞士法律允许协助自杀,只要自杀者没有“外界协助”就可自杀,而且帮助自杀者自杀的人不是出于“任何私利动机”。

    开发者、澳大利亚医生菲利普•尼茨克通过视频远程见证了这名 64 岁的美国女性的死亡过程,她在 2 分钟内失去意识,5 分钟后死亡,整个过程与预期相符。这名美国女性患有严重疾病并伴随剧烈疼痛,她希望在两年内结束自己的生命。在决定使用“安乐死胶囊舱”前,她接受了精神病医生的检查并被认为精神健康。她还留下了一份声明,确认自己希望死去,并得到了两个儿子的支持。

    —— BBC

  • Perplexity AI搜索引擎剽窃事件

    科技巨头支持的AI搜索引擎陷内容剽窃风波

    人工智能搜索公司 Perplexity 似乎正在剽窃新闻记者写的文章。该公司团队“策划”的多篇帖子与福布斯、CNBC 和彭博社等多家媒体的原创报道惊人地相似。但文章正文中并没有提及原创媒体的名称,唯一的署名是一些可以链接到这些媒体的标识,但是都非常小且容易被忽略。Perplexity 首席执行官阿拉文德·斯里尼瓦斯在 X 上表示,Perplexity 的页面“功能还不完善”,随着时间的推移和用户的反馈,这些功能将得到改进。“我们同意,应该在 Pages 上更突出地显示信息来源,并将在我们迭代产品时将这些反馈考虑进去。”

    —— 福布斯

  • 《AI训练暂停呼吁背后的事实》

    呼吁暂停六个月AI训练的公开信中许多签名是假冒的,更多专家公开反对这封信

    超过 30,000 人——包括特斯拉的埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、政治家安德鲁·杨和一些领先的人工智能研究人员签署了一封公开信,呼吁暂停训练比 GPT-4 更强大的人工智能系统六个月.

    这封信立即引起了轩然大波,因为签署人纷纷撤回他们的立场,一些著名的签署人被证明是假的,更多的人工智能研究人员和专家公开反对这封信的提议和方法。

    这封信由生命未来研究所 (Future of Life Institute)撰写,这是一家非营利组织,其使命是“减少强大技术带来的全球灾难性和生存风险”。它也是长期主义的最大支持者之一,这是一种由许多硅谷科技精英成员推动的世俗宗教,因为它鼓吹寻求大量财富以解决人类在遥远的未来面临的问题。

    未来生命研究所向 Motherboard 确认所有签名者都“通过直接沟通进行了独立验证”。

    尽管有这个验证过程,这封信还是以一些虚假的签名开始,包括冒充 OpenAI 首席执行官山姆奥特曼、中国国家主席习近平和 Meta 首席人工智能科学家 Yann LeCun,之后该研究所清理了名单并暂停显示签名。

    —— VICE杂志