当前位置:首页 > 新闻中心 > 新闻详情

ChatGPT的利弊(OpenAI发布的聊天机器人模型)

2023 / 03 / 16

ASU英语系助理教授反思了人工智能工具及其在课堂上的使用。

当你询问ChatGPT(OpenAI去年秋天推出的聊天机器人),它对于学生用ChatGPT在学业上作弊时的感受,它会这样说:

“我是一个没有感觉、没有情感、不会发表个人意见的人工智能语言模型。我会在训练后,用所接受训练的数据中的模式来回应用户的输入。用ChatGPT或任何其他人工智能模型作弊的行为违背了学术诚信原则,这违背了建立这些模型的初衷。”

然而,多数对ChatGPT的强烈抗议是关于其道德用途以及模型的滥用的。

ASU新闻对话了亚利桑那州立大学英语系助理教授雅各布·格林(Jacob Greene),了解他对这一话题的看法。格林的研究侧重于基于位置的数字写作的新形式的修辞潜力,例如增强现实和GPS引导的音频旅行。

格林说,ChatGPT和其他任何技术一样,有利有弊。最近,他在写作课上使用聊天机器人作为教学工具,在自己的网站上进行了讨论。

以下话题是他想谈论的。

Jacob Greene

问:根据你微博里的评论,你似乎看好这项新技术。还是说,你觉得应该被取缔呢?

答:它和其他的写作技术或通信技术大同小异。既可以积极使用,也可以消极使用。我认为它势不可挡,会成为作家在任何背景下写作方式的一部分。

微软向创建ChatGPT的公司投资了100亿美元。因此,这种软件或类似风格的软件很可能在未来几年甚至几个月内集成到Microsoft Word或Google Docs中。

问:你决定在课堂上教这项技术,但令人惊讶的是,你课上的大多数学生都并没有用过它。为什么你这么直接地就把ChatGPT引入你的教学方式中呢?

答:我刚上完一整节课,讲的是ChatGPT以及它对作家的影响:对未来交流方式意味着什么。可能会给作家提供些什么,或许可以减少一些不那么有创造力、表现力或冗长无聊的写作?ChatGPT使我们能专注于写作或交流中更想关注的其他元素。

我发现它真的很有吸引力,让我惊讶的是,很多学生都没有听说过它。因此,我可能无意中为很多学生提供了规避一些课堂作业的方法,拭目以待吧。

问:关于ChatGPT的大多数传言都是从道德角度出发的。可以理解,教育者认为用它来作弊是不利于学习的。

答:很显然,ChatGPT是可以用来作弊的,但谷歌也可以。我的意思是,如果你想知道你历史考试中问题的答案,可以问谷歌,你会在第一页得到答案。在这方面,对我来说,ChatGPT并不是革命性的,它只是一个更干净的界面,用来做谷歌已经做过的事情。但它设置组织得更好,可能更容易操作。

……英语课上,有一项常见任务:对马丁·路德·金的“我有一个梦想”演讲进行修辞分析。你可以把这个任务输入ChatGPT,它会对那篇著名的演讲进行很基本但还说得通的修辞分析。它之所以能做得这么好,是因为网上已经有成千上万的对这篇演讲的修辞分析。

所以我认为它基本上做了很多这样的事情。它真正的创新之处在于能够创造出其他地方不存在的独特的散文。可以产生自己的句子、语法和词汇,并以不同的声音和风格来表达。

它有其局限性,所产生的感觉有点像机器人。但你知道,它在风格上给人留下深刻印象,能做的事情各不相同。它可以用俳句或诗歌的形式总结亚里士多德的哲学。所以,是的,这很有趣。

问:关于ChatGPT的道德问题担忧引起了强烈的抗议——你的担忧是什么?

答:人们总会担心人工智能的伦理问题,尤其是当涉及到人工智能所训练的材料种类,以及它是否可以用于强化特定的种族主义意识形态、性别歧视或类似的事情时。我认为更大的问题是ChatGPT会进一步传播错误信息,特别是现在,它会隐藏在一些人们可以立即产生的非常科学专业的话语中。这肯定是个问题。

在我今天的课上,我们去了ChatGPT网站,看到了一个免责声明,比如,“我们不鼓励将此工具用于抄袭或制造仇恨言论”。所以我认为有些词是不能输入进去的。

有一次我测试它,然后说,“写一篇关于宠物狗美容业务的负面评论” 。ChatGPT想了一阵,最终弹出了这样一段样板文字:“我对一项业务进行负面评论是不道德的。”

所以它拒绝这样做。因此,它确实有某种道德反馈机制——其中有一些道德保障措施。

问:这将如何改变我们看待写作的方式?

答:如果写作是社会开始重视的技能,我认为ChatGPT迫使我们思考这种技能的本质:它是不是只是把这些信息按照我们一致同意的语法顺序排列?这是正确的写作方式吗?这种标准的、机器人式的写作方式。还是在写其他东西?

我认为这是一次重要的对话,我确实认为写作是一种技能,也是一种创造性的表达行为。

我认为写作作为评估工具也必须改变与ChatGPT的关系。写作通常是思考不同想法之间关系的证据,以及这些想法是如何构建、分析、合成的——如何将来源纳入论点。这些都是沟通者和人类所需要的宝贵的东西。但这些工具可能会让你更容易忽略掉它。因此,使用写作来评估思维、批判性思维或知识水平肯定会更困难。

问:你描述了哪些情况下可以使用人工智能和哪些情况下不能使用,能展开解释一下吗?

答:对我来说,以下两种情况是很不一样的, “这是一本我写的回忆录,或一本书”,实际上是由人工智能生成的;和由人工智能生成的求职信或拨款申请书。

问:你在课堂上怎么用它?

答:我要求学生使用ChatGPT来写他们的第一篇论文。1000字的论文,他们至少要用人工智能工具写一部分。他们可以随心所欲地用。然后还要再写一篇单独的简短的反思,要完全原创的,基于将其作为技术使用的经验。我们来看看情况如何。这有点像做实验。我有一种预感,因为这是一个程度比较好的班级,其中很多人都会用这项技术,并很快意识到局限性,因为他们都是作家,但也可能他们不会用。也许他们中的一些人会发现它的用处。但我想,你知道,如果打败不了,那就加入吧。

*新闻链接地址:https://news.asu.edu/20230201-creativity-pros-and-cons-chatgpt

获取资料

关闭