澳门人威尼斯37000英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道

  新闻资讯     |      2024-02-10 14:47

  澳门人威尼斯37000英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道人工智能(AI)的发展日新月异,但也存在一些难题澳门人威尼斯,比如 AI 模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。为了解决这个问题,英伟达在周二发布了一款新的软件,名为 NeMo Guardrails,可以帮助软件开发者给 AI 模型设置“护栏”,防止它们产生不良的输出。

澳门人威尼斯37000英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道(图1)

  NeMo Guardrails 是一个软件层,位于用户和 AI 模型之间,可以在模型输出不良内容之前进行拦截和修改。例如,如果开发者想要创建一个客服聊天机器人,可以使用 NeMo Guardrails 来限制它只能谈论相关的产品,而不能谈论竞争对手的产品或其他不相关的话题。如果用户提出这样的问题,机器人可以引导对话回到开发者希望的话题上。

  英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达能够使用 NeMo Guardrails 来阻止基于 ChatGPT 的机器人回答关于公司财务状况的问题或访问其他员工的私人数据。

  此外,该软件还能够利用一个 AI 模型来检测另一个 AI 模型的“幻觉”,通过向第二个 AI 模型提问来核实第一个 AI 模型的答案。如果两个模型给出不一致的答案,那么软件就会返回“我不知道”的回答。

  英伟达还表示,这个“护栏”软件还有助于提高安全性,可以强制 AI 模型只与白名单列表中的第三方软件进行交互。

  NeMo Guardrails 是开源的,并通过英伟达服务提供澳门人威尼斯,可以用于商业应用,开发者将使用 Golang 编程语言来为 AI 模型编写自定义规则。

  据IT之家搜索了解,包括谷歌和微软支持的 OpenAI 等其他 AI 公司,也使用了一种称为强化学习的方法来防止 LLM 应用产生有害的输出。这种方法使用人类测试者来创建关于哪些答案是可接受或不可接受的数据,然后使用这些数据来训练 AI 模型。

  英伟达正在将其注意力转向 AI 领域,该公司目前占据了创建这项技术所需芯片的市场主导地位,其股价在 2023 年迄今为止上涨了 85%,成为标准普尔 500 指数中涨幅最大的股票。

  随着人工智能、大数据、云计算等技术的成熟,如今物联网在家居行业的应用落地已是箭在弦上澳门人威尼斯,更有望在今后几年迎来全面爆发期。在这一背景下,巨头们之间的智能家居“暗战”也演变成“明战”。   随着人工智能应用的普及澳门人威尼斯官网,人们不再把它们视为“人工智能”,而是将这一术语留给未来的无限可能。那人工智能又会给智能家居带来什么影响呢?   人工智能技术不断更迭,智能家居逐渐走进生活,不少消费都已经不满足于只使用几件带有WIFI、智能模块的所谓的智能家居产品,更希望把自己的家打造成一整套智能家居系统。当我们用更现实的眼光看待人工智能的潜力并思考其应用领域时,许多人会把目光投向家居生活中。在那里,无数日常工作都是为自动化量身定制

  随着物联网和智能家居的快速发展,国家对其的发展越来越重视。从提出实现“感知中国”智能改变生活物物相连通过在物体上植入各种微型感应芯片使其智能化,然后借助无线网络,实现人和物体对话,物体和物体之间交流;物联网为我们展示了生活中任何物品都可以变得“有感觉、有思想”这样的一幅智能图景,被认为是世界下一次信息技术浪潮和新经济引擎。下面就随网络通信小编一起来了解一下相关内容吧。 今年的时候在政府工作报告中提到,要加快培育壮大新兴产业,全面实施战略性新兴产业发展规划,加快新材料、人工智能、集成电路、生物制药、第五代移动通信等技术研发和转化,做大做强产业集群。 人工智能首次被写入全国政府工作报告;有业内人士接受记者采访时曾表示

  据外媒报道,恩智浦(NXP)开发了深度学习工具包eIQ,使汽车AI应用开发性能提高30倍,并且能使客户更快开发AI应用。 (图片来源:恩智浦半导体官网) 该工具包支持使用基于深度学习的算法,如图像识别、自动驾驶、传感器数据融合、驾驶员监测和其他汽车应用。该工具包使客户能够在桌面、云和GPU环境中开发应用程序,并将神经网络移植到eIQ Autocompatible S32处理器中。恩智浦的工具包和汽车电子专用推理引擎有助于将神经网络轻松集成到高安全性要求的应用程序中。 传统的图像识别算法逐渐转变为基于深度学习的算法。在对象识别和分类方面,基于深度学习的算法准确性更高,更易于维护。但是,目前在车辆中实施此类系统费用较高

  应用开发 /

  香港科技园公司(科技园公司)今日启动人工智能及机械人技术活动周(A.I.R. Week),并为机械人技术促进中心(RCC)2.0及 PLUG正式揭幕。 RCC 2.0及AI PLUG将与持续增长的人工智能及机械人技术社群共同协作,携手促进有关技术在不同行业的知识转移及市场应用澳门人威尼斯4399,包括物流、医疗健康、建造、零售、餐饮及制造业等。   作为科技园公司推动机械人技术项目之一,RCC 2.0由两个主要实验室组成,包括备有即插即用(plug-and-play)的基础设施的灵活实验室FlexLab,和具有制造设备和技术支持的制作实验室FabLab。 FlexLab为用家提供了灵活的空间,使他们可以在工作环境当中进行概念验证,并向潜

  【 2023 年 1 1 月 13 日 , 德国慕尼黑 讯】 全球功率系统和物联网领域的半导体领导者英飞凌科技股份公司与物理世界AI先行者Archetype AI于近日宣布,双方已签署战略合作协议,将加快开发具备AI功能的传感器芯片,使人们的生活更轻松、更安全、更环保。 总部位于硅谷的Archetype AI是一家专注于开发Physical AI基础模型的前沿AI企业。Physical AI是一种能够感知澳门人威尼斯、理解和推理周围世界的新型人工智能。英飞凌将试用由Archetype AI开发的 “大型行为模型” (Large Behavior Model, LBM) 澳门人威尼斯,该模型可揭示隐藏在非结构化传感器数据中的行为模式,并将

  【 新竹】当下半导体最火的讨论话题非 AI(人工智能,Artificial Intelligence)不可, AI相关设计日益增长,AI相关应用芯片设计也相对蓬勃 发展,虽于起始阶段,但许多企业早已投入,看准未来将会有很大的成长空间。 据估计澳门人威尼斯官网,机器学习与人工智能等相关半导体产值,2021 年将从今年的 82 亿美元 成长至 350 亿美元。发展 AI 的关键技术包含算法、运算引擎、高效能运算平台 以及大数据数据库,这些技术都需要庞大的内存储存空间,当系统芯片(SoC澳门人威尼斯4399, System on Chip)变得更为复杂且用到更多的内存时,便需要更简便且准 确的内存测试功能。 厚翼科技(HOY technologies)所研发的「内

  随着互联网、大数据和人工智能等技术的应用普及,彩电与手机成为了第一批开始智能化升级的消费终端产品。但智能电视发展目前还处于初期阶段,对人工智能技术的应用、消费电子设备间的互联互控、用户体验与内容服务水平的提升、网络安全问题等仍较大的提升空间。 4月10日,作为第六届中国电子信息博览会(CITE2018)同期重要论坛活动,2018中国智能电视行业企业家峰会在深圳召开,创维董事长赖伟德、海信总裁刘洪新、TCL高级副总裁王成、康佳总裁周彬、LGD常务李汉廷等出席会议,围绕彩电行业科技创新与发展、产业结构调整与优化、深入交流与探讨,搭建国际化、前沿化、市场化的高端对话平台澳门人威尼斯官网。捷孚凯(GfK中国)董事总经理周啓群先生应邀出席,并以《彩电创

  以太币的挖矿热,让AMD、Nvidia的GPU卖翻天,市场上供不应求,价格暴冲澳门人威尼斯4399。不过好日子可能即将结束澳门人威尼斯,外资表示,陆厂“比特”(Bitmain)研发以太币专用的挖矿芯片,效能超越GPU,将抢走大量订单。 CNBC、巴伦(Barronˋs)报导,Susquehanna Financial的Christopher Rolland 26日报告称,他们上周出访亚洲,证实比特已经开发出“特殊应用集成电路”(ASIC)芯片,专门用于挖掘以太币,预估今年第二季出货。比特可能是首家推出以太币ASIC的业者,此外,至少三家厂商也在研发以太币ASIC。 比特开发的比特币ASIC芯片,挖矿效益远优于GPU,ASIC早已成了比特币

  和机器学习应用的发展 target=_blank

  直播回放: 英特尔 FPGA 可编程加速平台介绍,走近 AI、数据中心、基因工程等大咖工程

  新的设计挑战赛为参赛者提供在极端环境中保护电子器件的机会中国上海,2024年2月7日安富利旗下全球电子元器件产品与解决方案分销商e络盟 ...

  联想集团、微软等多家全球科技公司5日在斯洛文尼亚签署了一项协议,承诺遵守联合国教科文组织的人工智能伦理建议。教科文组织总干事阿祖莱 ...

  为中高速物联网应用场景提供完整、高效的解决方案2024年2月7日,中国上海——芯原股份 今日宣布与无线通信技术和通信芯片提供商新基讯科技 ...

  Zinn Labs 推出基于 PROPHESEE 事件视觉传感器的视线跟踪系统, 为 AI 智能镜框和 VR/MR 系统赋

  结合 Prophesee 超低功耗、低延迟的事件视觉传感器,该款突破性的视线跟踪系统将助力带来直观、无缝流畅的新用户体验...

  贸泽顺利完成SOC 2 Type II、ISO 27001 Stage 2和Cyber Essentials认证

  贸泽顺利完成SOC 2 Type II、ISO 27001 Stage 2和Cyber Essentials认证 持续加强对数据安全的承诺2024年1月26日 – 专 ...

  有奖直播TI MSP430民用水表开发指南及其智能模拟组合模块在传感器检测中的应用

  站点相关:综合资讯传感器RFID生物识别网络传输电源管理处理器物联网安全行业规范创新应用可穿戴设备智能家居智能工业智能交通物联网百科相关展会专家观点射频