最近学习 react ,把之前做的 App 小玩具做成了一个网页,哄哄模拟器网页版,完全免费,无需登录,可以随便玩
你将在不同的吵架场景下,在限定的聊天次数内把对方哄好,这是一个更游戏化的聊天体验:有成功/失败判定,有数值系统(还有一些简陋的特效)



关于模型的一些做法
在之前做哄哄模拟器 iOS App 的时候,我是用的自己微调的 llama ,效果其实不错,但部署和推理的成本还是太高了
所以这次我顺便调研了 gpt functions 来实现这个需求的可能性
我测下来发现,gpt functions 可以保证数据格式和字段没问题,但对语义的理解,以及模拟回复的文本,效果差到令人发指
例如 function 中的回复,会搞混用户和自己的身份,反过来和用户道歉,又或者完全重复用户的话
我解决的办法就是将 gpt function 和普通的 gpt 一起用,function 负责做数值判定和做数据结构化,普通 gpt 就只负责模拟回应
这样的效果会好很多,不再会搞混身份,同时结构化也不会出问题
缺点就是贵
但即便这样成本也比自己部署 llama 低很多,不得不说 gpt 确实便宜啊







