旧金山:人工智能研究实验室
OpenAI已经宣布
ChatGPT,一个
人工智能聊天接口,该接口基于
GPT-3大型语言模型家族。
GPT-3,或第三代生成预训练变压器,是一个神经网络机器学习模型训练使用
互联网数据来生成任何类型的文本。
ChatGPT邀请用户获取反馈并了解其优缺点。
根据博客文章,在研究预览期间,ChatGPT的使用将是免费的。
OpenAI在一篇博客文章中表示:“对话形式使ChatGPT能够回答后续问题,承认错误,质疑不正确的前提,并拒绝不适当的请求。”
ChatGPT是的兄弟模型
InstructGPT,它遵循指示和提示,并提供详细的回答。
该模型采用从人类反馈中强化学习(
RLHF),使用与InstructGPT相同的方法,但在数据收集设置上略有不同。
然而,该公司表示,人工智能聊天界面有很多局限性,并计划定期更新模型,以改善这些领域。
OpenAI表示:“鼓励用户通过UI对有问题的模型输出提供反馈,以及来自外部内容过滤器的误报/误报,这也是界面的一部分。”
它补充说:“我们特别感兴趣的是关于在现实世界中可能发生的有害输出的反馈,以及帮助我们发现和理解新风险和可能的缓解措施的反馈。”