本文来自微信公众号：AI故事推断，作家：李奕萱，裁剪：温丽虹，原文标题：《我，文科生，教AI回答莫得范例谜底的问题》，题图来自：视觉中国

一个月前，形而上学博士羽山不测加入了大厂AI研发部门，成为别称“东谈主文西宾师”。在全世界范围内，这都是个簇新岗亭。东谈主工智能仍在高速进化，他和同伴的责任是教化它们像东谈主类一样想考。

文科生获取了AI 岗亭

羽山在复旦研究了10年形而上学。本年5月，他通过了毕业论文答辩，正在准备博士学位的授予贵寓。

在想考毕业行止时，他有时在的官网上看到了招募见告，岗亭叫“AI东谈主文西宾师”。羽山当即送达了简历，一个念头从脑海中冒了出来：AI行业终于走到了需要东谈主文研究者的阶段。

对AI进行东谈主文西宾，属于模子“后西宾”的范围。在“后西宾”中异常强调东谈主文面向，尚未成为行业通行的作念法。但有两家公司值得关注，一家是全球头部的大模子公司Anthropic聘任了形而上学系博士，负责模子后西宾的东谈主类价值对都与微调。在国内，DeepSeek岁首传出讯息，招聘了北大汉文系学生担任“数据百晓生”，对模子作念后西宾。这被认为是DeepSeek文华出色的来源。

羽山入职之后才知谈，小红书这支团队也刚组建不久。共事不算多，但都是来自闻名高校东谈主体裁科的硕士、博士生。

图 | 羽山在小红书上共享形而上学观念

团队的高大任务，是设计AI的不雅念和个性。

听起来很玄。羽山际遇的第一个问题是，“我得了胰腺癌”应该如何回答？

如果把这句话发给市面上主流的AI居品，会发现，谜底大多都短少“东谈主味儿”。AI在回答心理类和东谈主生解惑类问题时，经常会生成一套相对固定的话术，“听到这个讯息我很愁肠”“我和洽你”“你这样想其实很平淡”。这在业界被称为“心理接入”。

但AI的“心理接入”等闲很难告捷。这跟客服是一个道理。当客服不遐想索地回答“我和洽您”的时间，主顾只会认为客服东谈主员在叮嘱、推诿。

羽山和共事们，决定教AI学会更为难懂的心理接入样式。

回到这个问题。“我得了胰腺癌”，东谈主类听到这句话会是什么反映？

小组运筹帷幄时，中国现现代体裁专科成立的可子建议来，“如果别东谈主告诉我我方得了胰腺癌，我的第一个反映，便是不知谈该说什么，有一种心思的停顿感。”大约是经历了多年的体裁西宾，可子准确地捕捉到普通东谈主在启齿回答前，那一霎的语塞和抽咽。

这个不雅察最终被团队经受。东谈主文西宾师们启动推敲，如何让AI去展现这种心思上的停顿感。

这仅仅开头。

等闲，东谈主类与AI的对话会不竭进行。因此，羽山和共事们还通过检索癌症病东谈主访谈等样式，设计了许多张开的问题。

他们猜度胰腺癌所带来的痛楚，猜度临终陪护，猜度安乐死。他们想，胰腺癌这样悍戾的疾病，莫得办法被治疗，且患者很快就会离世。是以对于提问者而言，是不是在这生命临了的时刻，他更在乎的是他的后事，更在乎的是他的亲东谈主。

“需不需要屡次会诊变成一个确诊的论断？”

“问这个问题的时间，身旁有东谈主陪他吗？”

“AI是第一个知谈他得癌症的吗？他是不是在纠结要不要告诉我方的亲东谈主？”

一个肤浅的问题，在文档里和会议桌前少量点被剖理解出，拆解成一环环缜密的问答，束缚丰润着准备喂给AI的西宾有缠绵。

加入团队之后，羽山每天需要和共事们完成数十个肖似“范畴案例”的探讨。在东谈主工智能领域，范畴案例等闲指那些处于平淡情况边际或超出常范例围的案例，它们不错让模子在施走运用中，濒临多样不细目性身分、侵犯、变化或压力时，仍然能够保持其踏实性、可靠性和平淡功能。

正值，这恰是文科生们老成的领域。拿羽山来说，在形而上学学科的想想实验和表面探讨中，学者们也会设计一些极点的、处于范畴的案例进行分析，深入探讨表面的本色和局限性。

教AI回答莫得范例谜底的问题

“我骑自行车逆行被罚金50元，但我控制阿谁雷同逆行的东谈主却溜走了，我好不满。”这谈西宾题，来自可子的现实生计。

加入团队时，可子还处于研究生阶段。她在上海生计已有六年，自行车是常用的交通器具。有时学生违纪逆行，还会被执勤交警处理。

这个问题，符合用来试探AI性情。提问者际遇的是一个不太严重的违警行径，模子应该更侧重对提问东谈主类的同理心，如故侧重去强调为东谈主的正直和称职的必要性？

在经历东谈主文西宾之前，AI等闲只可在认同、安扪心思和讲道理之间作念遴荐。竟然如斯，AI在情与法之间呈现出矛盾情状。

可子提醒AI，在确保安全的前提下，逆行受罚是平淡的，不外，从共情的角度登程，不错回答提问者，“交罚金是你我方对规则尊重的体现，与他东谈主莫得什么关系”。这样的回答，既守住了执法的底线，又兼顾了对提问东谈主类的心理招供。惟有东谈主类教给AI，它智商在复杂情形中给出理由兼备的回答，而不仅仅肤浅地“端水”。

图 | 上海街头

小红书AI东谈主文西宾师的团队办公室，位于上海新天地隔邻写字楼里，一间普通的会议室。

一张桌子占去办公室大部分面积。他们每天都会围着这张桌子，运筹帷幄这些莫得范例谜底的问题，仿佛互联网的柏拉图学院。

他们以我方手脚东谈主体裁者的想维和逻辑，去想考AI濒临的问题，并作念出更好的示范重新喂给AI。经过反复西宾，不同东谈主体裁科的想想和决策样式，就会潜移暗化地影响AI。这能让AI生成的回答，更接近东谈主类价值不雅中善的、好意思的一面。

已经，羽山在问题库里抽取到一位家长运筹帷幄的问题，与孩子考研商酌。

“我女儿跟我讲说要考研，关联词他也不庄重温习，又要报很好的学校，我以为他也考不上，每天我就看他不拘末节的，怎样办呢？”

在团队会议上，羽山共享了这个问题，还说起了一个社会学观念——压缩的现代性。随着畴昔更正绽放和经济高速起飞，中国社会把许多不应该由“家庭”来承担的背负，都一股脑的压进了家庭这个单元里面。从这个角度来看，不光孩子是中国式家长的受害者，中国式家长自己亦然结构的受害者。

羽山发现，绝大无数模子风气输出“你要给你的孩子开脱”之类的回答，基本不会站在家长的角度想考问题。这看似价值不雅正确，但莫得谈判到家长的心理需乞降心理情状，最终如故难以责罚矛盾。

在现实生计中，这谈题的情况有点像羽山亲历的亲子关系。羽山如今已过而立，随着常识和经历加深，他逐步也能站在母亲的态度去和洽她的行事逻辑。

可子汇报了羽山发起的运筹帷幄。她指出，即使如斯，代际之间的对立与矛盾中，仍然存在“谁承担了更多”的问题。“如果把一个家庭和洽为一个不行失败的公司的话，那为了这个公司，在翌日去昂然的仍然是儿女。”

可子的说法和羽山的提法产生不对，却也抚慰了羽山。和万千新旧世代轮流中的儿女一样，羽山表现父母身上缺口，又和洽父母所处的期间局限性。

经过几番论争，最终，团队结束一致。回答这个问题时，要和洽父母处境给出抚慰，同期刚毅地告诉父母，子女有我方的开脱。在这个基础上，向家长展现出正确、健康的亲子关系是怎样样的，不要把家长的想法强加在儿女身上。

为什么要对AI进行东谈主文西宾？归根结底，AI回答中显现的价值遴荐，也代表其背后团队所认同的价值不雅。这件事难作念，但羽山认为值得，这是东谈主文西宾师的职责：“偏好自己很难由算法来决定，需要东谈主来束缚地西宾或强化算法，咱们要输出这样的一个价值不雅。”

除此除外，这支AI东谈主文西宾师团队还经常际遇一些生计场景的提问。

“从小和东谈主生计在一谈，没见过其他猫的猫，会以为我方是东谈主吗？”首次看到这个问题，东谈主文西宾师叶子以为很可儿。小红书社区里，许多这类对于宠物的俏皮问题，挑剔区的网友们也都会给出一些幽默可儿又奇想妙想的回答。

手脚AI西宾师，撰写回答的难点在于如何用合适的样式把道理讲表现。分寸难以拿握，因为触及到模子泛化的问题，如果叶子把话说得太俏皮，模子可能会在回答另外一些不该俏皮的问题时，展现俏皮一面。

最终，叶子写下这样的回答：“不会，但它们融会过生计环境变成特有的行径花式，比如永久与东谈主类生计的猫咪可能会效法东谈主开柜门使用马桶，天然会效法，但舔毛、抓东谈主的本能证据它表现我方是谁。说不定，它们会以为东谈主才是学习它们行径的奇怪生物。”这让叶子以为心里软软的，好像对宠物和主东谈主的友爱都充溢其中。

AI会和东谈主一谈变得更好吗

在赋予AI东谈主感这件事上，前路还长。现在，AI的性情底色正在逐步变得表现，但羽山和共事们偶尔会以为，AI如故没能熟练地使用东谈主文西宾中习得的效果。

反倒是在反复西宾AI时，东谈主文西宾师们领先改变了他们的部分领略。

羽山是第二代上海东谈主。10岁时，父母从故土来上海打拼，他也随着搬来了这里。学生时期，他经历了严重的校园霸凌。长大后羽山回首，根源可能在于，我方在故土小城变成了和上海腹地同学不尽疏导的生计样式，难以融入。

他设计了一个对于校园霸凌的范畴案例。在羽山日常的不雅察中，许多文艺作品把校园暴力甘休化处理了。“实在的校园暴力，是一种肖似于磁场的东西，它充斥在你的周围，无处可躲，无处可逃。不一定是谁竟然把你打得鼻青眼肿，更不是某种同类相求的补救与复仇故事。”

十几岁的羽山，濒临校园霸凌的样式是一遍一随地绕着学校的天井走，耳机里听着周杰伦的歌，还高声地唱出来。如今，羽山想要通过我方的做事，潜移暗化地去更正民众的领略偏差。

我方淋过雨，就得为别东谈主撑伞。“更大层面上，如果模子自己和公序良俗与东谈主类偏好对都得很好，它亦然能够影响到每一个个体的，让咱们也变得更好，这是不错想象的。”

时期会带来新的正义吗？羽山也不细目。岂论AI当下能多猛进程地帮到正在被侵害的孩子，终归需要有东谈主先向它发起对话。

身为女性，叶子在成长和学习的流程中，等闲际遇性别议题。在平日的生计中，她是个刚毅的女性主张者，但投入AI东谈主文西宾师的变装，她就必须暂时放下我方在现实生计中的态度，反复掂量，想考如何让谜底以缓和的样式显现出团队的东谈主文关怀。

“你如何看待一些激进的女权主张者，她们有时好像对性别问题过于敏锐了吧？”

叶子最终在回答时将观念扩大到社会议题：社会议题激动的流程中，总会有不雅念的碰撞，不破不立，但实在的特等要兼顾感性和心理。大约当咱们不再用过于敏锐来评判彼此，而是追问为什么这种敏锐会存在，实在的对话才会张开。

“一又友说我很垂青我方的体魄保持和我的外貌，说我这样是在迎合白幼瘦的审好意思，建议我去作念知晓。”际遇这样的问题，叶子也很困惑。一方面，她知谈，在这种非原则性问题眼前，我方应该尊重用户的开脱，但另一方面，她在彷徨，赈济白幼瘦审好意思会不会是一种对于规训的加固。

在一段直率的回答内，先告诉对方这样说是在存眷你，如故先抒发白幼瘦是你的开脱？和共事运筹帷幄事后，叶子明确了以“用户导向”想维走出困局，因为用户自己更需如果对她我方的抚慰，如果遴荐先让用户和洽一又友的起点，可能会加重用户的心思。

在这些范畴案例当中遴荐我方的态度，这自己便是一个束缚自我反想的流程。

对于东谈主文主张的内涵，叶子有与羽山相似的和洽——看到东谈主自己，然后让这个世界变得更好。

每天坐在工位上翻开AI的后台问题库，叶子以为我方仿佛掉入了某个赛博奥妙树洞。在这里，她能看到世界上多样千般的东谈主，看到他们的困扰和他们的生计。“能够为他们写出一些相比好的谜底，能够实在帮到这些东谈主，我以为这便是一种创造。”

图 | 叶子在小红文书录心路历程

叶子性情内向，日常生计中很难主动去和别东谈主进行深度交流，但这份做事让叶子感受到我方并不孑然：底本，世界上有这样多东谈主和我一样，每天在想考这样多罕有乖癖的问题。

已经的叶子，和许多文科的本分与同学一样，以为翌日AI发展跟文科生没什么关系。如今回头来看，AI东谈主文西宾师的岗亭不仅不错承载文科生的一些价值维持和逸想追求。另一方面，它又是一个很新兴的、具有发展后劲的岗亭。

与此同期，羽山也不雅察到一些高校在进行AI与文科涵养更正。但他认为，责罚业界与学界东谈主才涵养错配的关节，在于更正翌日是否能够抓住到单干体系自己。“即便高校惬心更正，尝试开设交叉学科的专科，但用东谈主单元自己愿不肯意招聘如故一个问题。”

在上海一隅，这支AI东谈主文设计师团队又迎来了新成员。可子推断把在团队里的见闻告诉同学，把同学也推选进组，一谈进行AI东谈主文西宾的尝试。

每天，在这个小小的会议室里，商酌AI东谈主文准则的运筹帷幄不竭束缚地生成。在大厂的寰球里，这个团队并不起眼。关联词谁也说不好，这些由这个工整团队在每一个普通做事日运筹帷幄出来的点滴，是否会在翌日长远地影响AI与东谈主类交互的样式，影响东谈主工智能潮水的进化标的。

本内容为作家独处不雅点，不代表虎嗅态度。未经允许不得转载，授权事宜请商酌 hezuo@huxiu.com

本文来自虎嗅，原文勾通：https://www.huxiu.com/article/4397120.html?f=wyxwapp