介绍
Instances of artificial intelligence (AI) are ubiquitous in society; some examples include chatbots, 财务欺诈侦查, 导航软件. “人工智能”一词概括了机器学习(ML)、深度学习和生成式人工智能(图1); and, 集体, 它继续给所有行业带来革命, 以速度和规模提供效率和效益. 例如, 在医疗保健, AI enables personalized treatment plans and manages predictive diagnostics; in financial services, AI enhances fraud detection and risk 管理 with data-driven insights; while within the energy sector, 人工智能优化网格管理和预测性维护, 释放效率和可持续性的现实效益.
图1: 人工智能、机器学习、深度学习和生成式人工智能的比较观点
人工智能的广泛影响超出了澳门赌场官方下载的明确采用, 它与各种第三方应用程序的集成证明了这一点，例如流行的办公生产力软件和日常任务. 此外，某些部门的员工(例如.g., HR, 市场营销)可能已经在使用基于网络的软件来筛选求职者或撰写营销内容. 简而言之，员工可能已经在使用人工智能，即使他们没有意识到这一点. 最终, 越来越多的未被明确允许用于商业用途的生成式人工智能产品代表了影子IT的演变.
无论人工智能的业务增强和优化如何，它在许多情况下都会增加风险. 和任何技术一样, 不久之后，坏人开始利用人工智能来达到邪恶的目的. To date, 生成式人工智能提高了与商业电子邮件泄露相关的电子邮件的可信度1 (BEC)，同时也降低了实现BEC攻击所需的技术能力.2 此外，人工智能已被用于地缘政治报道，3 基于图像的滥用,4 政治运动5 他成功策划了一场价值数百万美元的骗局.6 在总, 人工智能不仅对不同的人意味着不同的东西, 但每种人工智能的相关风险也是高度可变的.
人工智能的普遍性怎么强调都不过分. 根据德勤, 世界正在经历史无前例的危机, 在生成式人工智能中最容易获得的史诗级技术革命.7 尽管人工智能在1950年首次被概念化，8 进步的规模和速度以及相关的影响还远远没有实现. 类似于过去的技术变革, 对于许多, 任何提到人工智能都会引发恐惧, 怀疑, 和不信任. However, 值得注意的是，生成式人工智能被设想为解锁, 而不是取代, 人的潜力, 因此，当前的、或许是持久的挑战是分配和管理那些机器和人类都擅长的任务. 人工智能的使用需要跨职能的领导，以及对商业和社会影响的仔细考虑——除了传统的人的因素, 流程, 和技术. 进入ISACA的数字信任生态系统框架(DTEF).9
人工智能的普遍性怎么强调都不过分. 根据德勤的说法，世界正经历着前所未有的变化 生成式人工智能中史诗级的技术革命.
DTEF从所有组织利益相关者的角度支持数字信任的建立和维护. 数字的信任 is broader than 技术; it applies to the entire organization and all its external stakeholders.
选择, 建立, 维持数字关系需要各方的信心和透明度. 的需求, 原则, values, 提供者和消费者的目标影响必要的信任水平. DTEF为澳门赌场官方下载提供了一种创新的数字信任和转型方法，以优先考虑数字信任——这是一个与人工智能相关的概念.
本白皮书探讨了组织如何使用ISACA的DTEF实现人工智能技术和服务解决方案的数字可信度.
DTEF概述
DTEF定义了创建数字可信生态系统的核心成分，该生态系统考虑所有利益相关者，以确保所有数字交互和交易都是合法的, 信任并考虑诚信的要素, 安全, privacy, 弹性, quality, 可靠性, 和信心.10 信任是一个重要的原则，必须纳入任何澳门赌场官方下载的人工智能采用和部署策略. 例如, 信任人工智能输出的能力将取决于数据质量和数据保护水平等因素. 人工智能模型必须建立在可信代码和透明度的基础上，以包括运营决策. 人工智能服务的最终用户或消费者相信驱动决策的人工智能算法被证明是准确的, 保护终端用户的隐私, 是安全的, 而且没有偏见. Finally, 适当的人工智能治理将有助于高级管理层和关键利益相关者相信人工智能决策是可以解释的, 遵循公平和道德规范, 法规和法律的遵从性可以被证明.
DTEF创建了一个知识体系，并有助于解决动态变化的法律问题, 监管, 和技术 landscape; modern day business requirements; external/internal influence and emergence; and the risk and controls required to create and operate in a digitally trusted environment.
DTEF是一个基于四个基本节点(人)之间存在多重依赖关系的理论的三维模型, process, 技术, 和组织. 节点之间通过多个动态交互进行交互, 在模型中, 这些节点是最高级别的. 这四个节点通过六个领域——文化——相互连接, 出现, 启用和支持, 人为因素, 直接和监控, 和建筑. Figure 2 说明节点和域之间的关系.
图2: DTEF模型
域影响一个或多个节点. 例如, 体系结构领域的变更将不可避免地影响组织节点和/或技术节点. 这些领域还在系统意义上相互作用. 域在管理组织中存在的互连和复杂性方面起着至关重要的作用, 因为他们要配合不断变化的法规, 新兴技术, 新的威胁, 程序上的变化, etc. 领域由一组构成和构造元素组成.
DTEF使用信任因素在每个域中建立内容基础. 例如，体系结构领域被分为以下四个信任因素:
- 创建澳门赌场官方下载信任架构
- 管理信息和技术架构
- 管理数字信任资源
- 将数字信任技术与组织需求结合起来
信任因素描述了维持数字信任和帮助避免或减少偏见所需的总体行动. 框架的组件(参见 图3)可用于确保在任何人工智能应用中都能展示数字信任原则.
图3: DTEF组件
DTEF提供了一个结构来支持整个生态系统中的数字信任, 考虑关系如何影响与消费者的互动程度, 客户, 和用户. 图4 说明了DTEF的关键结构要素.
图4: DTEF层次结构
数字的信任11 不只是关于数字信息和技术吗. 数字的信任 impacts the entirety of businesses; therefore, 能够展示数字可信度的澳门赌场官方下载可以获得相当大的竞争优势，并与消费者建立更好的关系.12
人工智能生命周期
不受控制地使用人工智能产品可能会带来相当大的风险. 由于其潜在的不利影响，整个业务(e.g., 知识产权损失, 品牌的伤害, 诉讼), 澳门赌场官方下载不仅要了解可能已经在使用的东西, 还包括员工试图通过人工智能解决哪些业务问题. 在很多方面, 人工智能只是另一种技术, 但是它的细微差别是在其生命周期的所有方面需要深思熟虑的治理和风险管理的原因. 人工智能生命周期是一个从业务问题到基于人工智能的解决方案以解决该问题的迭代过程.13
中描述的每个步骤 图5 在设计、开发和部署阶段持续迭代. 读者可能熟悉其他人工智能生命周期，其中可能包含额外的细节. 不管他们有什么不同, 人工智能生命周期通常都涉及四个组成部分:业务需求和目标, 数据收集和准备, 模型开发和评估, 以及操作部署和监控.
图5: 人工智能生命周期
Design
理解问题
人工智能过程和系统所有者以及其他相关的利益相关者负责确定关键的项目目标和需求，以有效地定义期望的业务结果. 组织必须清楚地定义他们希望AI解决的业务问题. 没有清晰准确地理解正在处理的业务挑战和期望的结果，任何人工智能解决方案都不会成功.
数据收集和探索
数据是任何人工智能解决方案的基础. 在这一步中, 收集数据并评估其是否适合在拟议的人工智能应用程序中使用. 它需要发现可用的数据集, 识别数据质量问题, 并对数据和数据计划的观点产生初步的见解. 人工智能模型应该只在清楚地了解所需数据和数据组成的情况下使用数据.
数据整理和准备
此步骤包括用于将工作数据集从初始原始数据构建为AI模型可以使用的格式的所有活动. 这一步既耗时又乏味, 但至关重要的是，开发一个人工智能模型，实现解决第一步中确定的问题的目标.
Develop
建模
这一步的重点是用数据进行实验，以确定正确的人工智能模型. 通常在这个阶段, 球队训练, tests, 评估, 并重新训练许多不同的人工智能模型，以确定最佳的人工智能模型和设置，以实现预期的结果. 人工智能模型的训练和选择过程是交互式的. 没有一个人工智能模型在第一次训练时就能达到最好的表现. 只有通过反复的微调，模型才能得到磨砺，产生期望的结果. 取决于所使用的数据的数量和类型, this training process may be very computationally expensive; it may require special equipment to provide enough computing power, 因为它不能在典型的笔记本电脑上执行.
评价
一旦建立了一个或多个AI模型，并且根据相关评估指标表现良好, 人工智能模型在新数据上进行测试，以确保它们能够很好地泛化并满足业务目标.
Deploy
转向生产
一旦一个人工智能模型被开发出来，以满足预期的结果，并在确定的水平上执行，准备在实时数据上使用, 它被部署到生产环境中. 在这种情况下，人工智能模型将吸收不属于训练周期的新数据.
监控AI模型输出
一旦部署, 必须监控人工智能的生产输出，以确保它能够充分产生预期的结果——这个过程被称为泛化, 或者人工智能模型适应新事物的能力, 以前未见过的数据. 在生产中，人工智能模型可能会“漂移”，这意味着性能会随着时间的推移而变化. 仔细监测漂移很重要，可能需要不断更新人工智能模型. 人工智能系统必须经过严格和持续的监控和维护，以确保它们继续按照训练的方式运行, 达到预期的结果, 解决业务上的挑战.
以人工智能为重点的DTEF实施
当从整体上考虑人工智能项目时，DTEF实现模型非常有帮助. DTEF实施模型有五个阶段，还有第六个阶段, 管治及监督, 这是其他五个阶段的基础(参见 图6).
图6: DTEF实现模型
图7 说明了DTEF实现模型之间的关系, 人工智能生命周期, 以及关键的人工智能专项活动.
图7: 人工智能生命周期到DTEF实现模型的映射
了解商业环境
任何业务计划都需要清楚地了解当前的业务环境，包括远景, mission, goals, and objectives; for without these, 可能会有错位. 考虑到人工智能目前的受欢迎程度和通常的高期望，早期的利益相关者参与尤其重要. 识别澳门赌场官方下载风险和容忍度非常重要, 业务痛点, 期望的结果, 因为不是所有的东西都应该自动化. 这项工作用于确定范围、假设和约束. 在这一阶段与AI相关的任务是:
- 制定澳门赌场官方下载的人工智能愿景、使命、目标和目的.
- 了解与人工智能相关的业务风险.
- 识别使用人工智能的产品和服务.
了解数码环境
与前一阶段相似, 这个阶段包括数据收集, 包括记录组织产品和服务的数字方面, 并确定数字交互的各种关系和用例. 这一阶段与人工智能相关的任务是:
- 确定澳门赌场官方下载目前使用的支持人工智能的产品和服务.
- 确定各种各样的人工智能利益相关者.
- 定义AI数字关系类型(例如.g.(澳门赌场官方下载对消费者、澳门赌场官方下载对雇员、政府对选民).
- 定义人工智能数字关系媒介.
- 了解人工智能数字供应链.
- 创建人工智能数字交互用例.
制定数字信任战略
这一阶段要求澳门赌场官方下载根据澳门赌场官方下载的业务和数字环境制定数字信任战略. 在这一阶段与AI相关的任务是:
- 记录战略性人工智能数字信任目标.
- 绘制AI系统和子系统.
- 制定初始人工智能战略.
- 创建一个人工智能商业案例.
规划和实施数字信任
这个阶段是AI实现工作发生的地方，因为它与执行有关. 要想成功, 一个组织必须, 基于前三个阶段, 规划并实施人工智能数字信任计划. 这个阶段的任务是:
- 创建迭代方法.
- 制定AI程序/项目计划.
- 将AI所有者分配到项目计划的每个步骤.
- 实现人工智能.
监控、测量和改进
最后，第五个阶段是创建连续模型的关键环节. 这包括持续监控, 测量, 和改进是回到第一阶段的环节, 哪一个触发了连续模型. 在某些人工智能应用程序(如ML)中，持续监控是关键, 因为人工智能的输出会根据添加到模型中的新数据集不断变化. 在这一阶段与AI相关的任务是:
- 确定关键的人工智能数字信任度量.
- 设定目标AI测量目标.
- 收集、监控和响应测量结果.
- 评估AI的能力和成熟度.
- 持续改善人工智能数字信任环境.
管治及监督
所有这些阶段的基础是治理和监督, 这确保了数字信任计划, 包括人工智能, 范围适当, 执行, 随着时间的推移而改善. 这个阶段的任务是:
- 识别并采用人工智能治理.
- 创建和管理人工智能风险登记册.
- 将人工智能数字信任集成到澳门赌场官方下载治理、风险和合规(GRC)结构中.
应用DTEF
与传统软件系统不同, 人工智能系统带来了独特的挑战，需要专门的治理框架. 随着人工智能系统继续以前所未有的速度发展, 它们对澳门赌场官方下载的影响越来越大. 人工智能使用的快速增长需要监督和结构化的方法来减少伤害. 澳门赌场官方下载目的和基础设施的可变性程度与每个独特的用例相结合，使得覆盖DTEF可以帮助澳门赌场官方下载最大化组织价值同时最小化AI风险的每种可能方式变得不切实际.
人工智能使用的快速增长需要监督和结构化的方法来减少伤害.
Today, 大量人工智能要么作为现有软件的集成，要么通过应用程序编程接口(API)被采用。. Ideally, 包含人工智能功能的澳门赌场官方下载软件更新应该使用已建立的评估和批准流程启动审查，以便对附带的使用条款和业务风险进行业务审查. 奖励的决心. 值得注意的是，禁用人工智能功能的难易程度因产品而异，并不总是直观的.14
孤立的供应商管理和采购流程不足以应对当今澳门赌场官方下载数字生态系统的复杂性. 行业数据描绘了一幅澳门赌场官方下载对第三方风险管理不力的不祥图景15 以及API攻击的增加16 超过40%的公司对所有正在使用的api缺乏了解.17 认识到受供应链破坏影响的一半以上归因于供应链失败,18 澳门赌场官方下载必须更加重视API安全性，以解决常见的弱点.19 The remainder of this paper will explore a common use case and a representative number of DTEF components; none of which are meant to be exhaustive.
用例:客户服务聊天机器人
根据Zendesk的一项调查，生成式人工智能的兴起归因于70%的澳门赌场官方下载客户体验(CX)领导者重新评估CX.20 同一项调查揭示了三个主题的十大趋势, 所有这些都涉及人工智能，需要意识, 订婚, 以及任何主要学科的数字信任从业人员的监督. 这些主题在 图8.
图8: 2024年客户体验趋势
客户服务领域对生成式人工智能的期望很高, 因此，超过一半的客户体验领导者正在探索人工智能供应商也就不足为奇了. 那些参与客户体验工作的人对聊天机器人将继续转变为具有更强大功能的数字代理抱有很高的期望. 在此期间, 澳门赌场官方下载明智的做法是组建跨职能的澳门赌场官方下载团队来管理合规问题，并将与现有数字生态系统集成相关的风险降至最低.
从这些期望过渡到聊天机器人的实际应用, 了解它们的分类很重要. 聊天机器人通常分为简单型、智能型和混合型. 直到最近，聊天机器人主要还是基于规则的, 它提供了一致的, 但通过利用自然语言处理(NLP)，越来越多地转向人工智能. 除了以规则为基础, 机器人可能是基于关键字的, 基于目录的, 智能(上下文), hybrid, 或支持语音.21 集体, 聊天机器人增强了客户服务, 克服语言障碍, 并尝试消除与长时间呼叫保持相关的任何挫败感. DTEF已做好应对战略挑战的准备, 供应商选择与管理, 实现, 持续改进.
DTEF有什么帮助?
不管目前正在使用或正在考虑使用的AI类型如何, 澳门赌场官方下载必须制定与澳门赌场官方下载战略和成果相一致的人工智能战略. 具体的战略和开发周期将根据所考虑的人工智能类型而有很大差异.
以下包括一些, 但并非全部, 适用的信任因素, 实践, 以及特定领域内的活动，为AI聊天机器人示例提供有用的指导.
Culture
人工智能会受到恐惧的影响, 不确定性, 和怀疑, 尤其是考虑到人工智能对个人或职业工作的影响程度. 鼓励澳门赌场官方下载制定组织战略，说明哪些类型的工作由谁来完成.
负责组织发展的人与招聘经理之间的公开对话可以促进员工对人工智能带来的风险和机遇的认同. 相反, 澳门赌场官方下载与外部利益相关者之间关于目的的清晰性, use, 对人工智能的治理将是有益的. 这方面的一个例子是常见问题(FAQ)页面.
文化领域中与人工智能相关的考虑包括:
- 为AI的部署和使用定义目标文化:为什么要使用它, 它是如何被使用的, 面对内部和外部利益相关者，文化“足迹”是什么
- 解决任何阻碍人工智能成功开发和整合的文化因素
- 根据更广泛的环境管理目标文化，例如.g. 接受程度、采用率、一般知识和技能、常用使用模式等.
当澳门赌场官方下载考虑采用人工智能时，文化领域中的所有三个信任因素都特别相关:
- 管理文化(中大).01)评估、调整和促进促进数字信任的组织和人类文化.
练习编号CU.01.02:修改文化, 包括沟通公司战略和价值观的活动，并结合经验教训和外部需求和期望的因素. 这种做法强调了自上而下的道德领导的必要性.
练习编号CU.01.03:推广文化, 包括培训和提高员工理解和维护数字信任战略的意识. - 创建和管理数字信任文化环境.02):定义并建立整个生态系统的数字信任管理体系.
在名为“修改文化”的实践中，活动CU.02.02.6:在适当的细节层面上与各自的外部利益相关者沟通信息. - 管理技能和能力(CU).03)这种信任因素侧重于最佳技能的识别和维护, 能力, 所需人力资源的能力.
这些信息对于管理人工智能相关风险至关重要, 在新兴技术环境中，当关键利益相关者无法理解他们在确保和维护数字信任方面的角色和责任时，会导致什么结果.
人为因素
人为因素领域可以帮助澳门赌场官方下载预测人员配置需求. 它还可以处理客户体验中需要考虑和密切监控的领域. 而与技术相关的知识, skills, 能力差距并不是人工智能所独有的, 人工智能是最新和最具活力的, 因此，至少在可预见的未来，需要深思熟虑的人才管理策略来识别和管理整体人工智能项目成功和单个项目的上升/再技能需求. 此外，人工智能需要持续监控，以确认模型是否按规定执行.
“人为因素”中与人工智能相关的考虑包括:
- 使AI实现易于理解和访问, 为ai驱动的结果使用多个通信向量和多个演示布局
- 定义支持用户体验和验证ai驱动结果的控件(鉴别器), 专业怀疑精神, etc.)
- 定义和部署持续改进过程, 为人类与AI演员的互动引入反馈和前馈循环
- 包括评级和评分机制，使人类参与者能够将信任程度归因于人工智能的实现
在聊天机器人的例子中，从业者可能想看看:
- 实践中高频.01.04及其所有相关活动:评估和管理技术人因能力.
- 活动高频.01.05.1:识别和纠正与数字信任相关的错误和中断的来源.
体系结构
成功的人工智能集成能够协调数据、人员、流程和技术.22 要做到这一点, 澳门赌场官方下载需要一种战略——一种意识, 包括选择的深思熟虑的过程, 妥协, 在必要的时候说不，以满足商业目标. 根据Open Group的说法, 澳门赌场官方下载架构(EA)是一种策略工具，用于识别和缩小当前和未来状态之间的差距. 好的EA允许澳门赌场官方下载将战略转化为执行.23
成功的人工智能集成能够协调数据、人员、流程和技术.
DTEF体系结构领域涵盖以下主题, develop, 并管理整个澳门赌场官方下载架构. 它包括计划等领域, 政策, 以及商业标准, data, 应用程序, 和EA模型的技术层.
架构中与ai相关的考虑包括:
- 将AI宇宙映射到整个信息通信技术(ICT)环境和面向业务的用例
- 在总体架构中嵌入AI角色, 包括第三方和更长的供应链
- 定义和保护运行、控制和管理AI参与者的资源需求
- 考虑文化与涌现这一领域, 不断地为AI参与者采用新的或可选的用例来增强体系结构
- 管理和定期审查人工智能应用的业务和财务案例
与聊天机器人用例相关, 以下信任因素, 实践, 活动是有用的:
- 管理数字信任资源.03)这个信任因素需要认同, 管理, 以及控制确保数字信任所需的资源. 这对于管理基础设施的所有要素和组成部分是必要的，以下做法和活动将是相关的:
- 练习基于“增大化现实”技术.03.02:管理数字信任应用
- 活动基于“增大化现实”技术.03.02.1:管理面向客户的应用程序.g.(前端)用于数字信任.
- 练习基于“增大化现实”技术.03.05:管理数字信任运营:管理和控制数字信任的所有运营和生产方面以及相关架构.
- 活动基于“增大化现实”技术.03.05.1:估算尺寸, effort, duration, 以及开发所需的工作和资源的成本, acquire, 或者提供与数字信任相关的运营计划.
- 练习基于“增大化现实”技术.03.02:管理数字信任应用
- 将数字信任技术与组织需求相结合.04): 这种信任因素与组织需求的识别和使技术与这些需求相一致有关.
- 练习基于“增大化现实”技术.04.01:将技术与业务需求结合起来.
- 活动基于“增大化现实”技术.04.01.1:确定相关的业务目标.
- 练习基于“增大化现实”技术.04.01:将技术与业务需求结合起来.
直接和监控
与人工智能相关的潜在风险24 主要被认为是未来的问题. However, 主动应对人工智能风险有助于确保在业务中安全、负责地部署人工智能技术. 尽管认识到未来风险的重要性, 人工智能技术的现状和当前的利用模式带来了必须解决的直接风险. 坦率地说，人工智能可以加剧任何现有的问题，比如 lack of quality control or poor data integrity, 使系统容易受到网络攻击，并可能引入新的攻击.
尽管认识到未来风险的重要性, 人工智能技术的现状和当前的利用模式 当前必须解决的直接风险. 坦率地说，人工智能可以加剧任何现有的问题，比如 缺乏质量控制或数据完整性差, 使系统容易受到网络攻击，并可能引入 新的.
Direct和Monitor域包含与创建相关的主题, 测量, 管理, 管理数字信任生态系统，将风险纳入其中, 通信, 信息, 可持续性和复原力, 合规, 保证, 以及澳门赌场官方下载的整体发展.
Direct和Monitor中与人工智能相关的考虑包括:
- 在IT中嵌入AI世界作为更大的GRC框架的一部分
- 递归地应用治理元素, 风险管理, 合规, 以及对组织内部(和外部)人工智能领域的保证
- 组织人员和组织结构来引导和控制人工智能参与者(包括他们从入职到退役的生命周期)
- 将人工智能嵌入三道防线
虽然有许多相关的信任因素, 实践, 以及在聊天机器人示例中应用的活动, 我想到了以下几点:
- 管理风险(DM).03)这种信任因素包括不断地识别, 评估, 减少内部与数字生态系统相关的风险
由澳门赌场官方下载执行管理层设定的容忍度.
- 实践DM.03.01:指导和监控风险管理
- 活动DM.03.01.1 .明确角色和职责.
- 活动DM.03.01.2:建立风险偏好和风险承受水平.
- 实践DM.03.02:识别数字生态系统风险.
- 活动DM.03.02.2:识别风险所有者.
- 活动DM.03.02.识别当前的风险控制/控制环境.
- 活动DM.03.02.6:将数字生态系统风险整合到更大的澳门赌场官方下载风险中. 管理(ERM)
- 实践DM.03.01:指导和监控风险管理
- 组织管理(DM).04)这个信任因素要求澳门赌场官方下载识别和组织结构来支持数字信任
生态系统.
- 实践DM.04.01:组织结构管理.
- 活动DM.04.01.4 .建立角色和职责, 包括, 如果合适的话, 建立信任指导委员会(或 由行政、商业和信息技术(I&T)管理以跟踪项目的状态; 解决资源冲突，监控服务水平和服务改进.
- 实践DM.04.01:组织结构管理.
- 管理数字信任(DM.06):此信任因素要求组织维持适当的数字信任实践，以应用于
信息.
- 实践DM.06.01:库存信息资产.
- 活动DM.06.01.发现和整理合同和其他管理外部关系的文件.
- 实践DM.06.01:库存信息资产.
出现
在当今快节奏和数字化的环境中, 组织需要意识到可能影响未来成功的外部环境因素. 考虑到这些因素的组织可以提高他们的敏捷性和弹性. 从敏捷性的角度来看，他们可以更快、更灵活、更果断地移动和适应. 从弹性的角度来看，他们可以预测、响应和适应变化或中断.
在当今快节奏和数字化的环境中, 组织需要意识到外部环境因素 这可能会影响未来的成功.
涌现领域关注可能在流程和人员级别触发机会的事件和活动, 包括内部变更, 外部的影响, 以及人为的偏差.
出现中与人工智能相关的考虑包括:
- 通过生成和非生成人工智能预测出现(e).g.(定义AI参与者的预期边界)
- 分析和验证过程和结果模型(例如.g., 人工智能演员应该实现什么, 以及可能出现的偏差(注意合理可预见的误用)
- 控制输入变量、训练和AI参与者的进化
- 监控AI参与者的突发行为，并在必要时做出调整，以维持可接受的信任水平
与聊天机器人用例相关，以下信任因素和实践是有用的:
- 识别、评估和管理潜在的触发因素.01): 这种信任因素需要识别、评估和管理潜在的触发因素.
- 实践他们.01.识别和管理内部信号及其所有相关活动.
- 检测和管理与过程和人员相关的突发事件.02): 这种信任因素要求澳门赌场官方下载通过突现来识别即将发生或已经完成的变化，并对结果进行管理.
- 实践他们.02.01:检测内部紧急情况及其所有相关活动.
启用和支持
启用和支持域是动态互连，技术通过它启用流程, 这反过来又支持技术的部署和操作. 在启用和支持域中采用实践可以帮助在将聊天机器人部署到生产环境之前识别问题.
启用和支持中与人工智能相关的考虑包括:
- 将AI宇宙嵌入到服务价值链和服务管理中
- 定义和描述作为流程一部分的AI参与者, services, 以及整个服务组合
- 指导和控制进一步的AI开发(考虑提供者/用户的转换)
- 持续监控人工智能运行，具有突发事件和人为因素接口
与聊天机器人用例相关, 以下信任因素, 实践, 活动是有用的:
- 管理数字信任生态系统目标(ES).01)这个信任因素是关于确定过程和技术目标的
实现期望，包括质量考虑.
- 实践西文.01.确定过程目标及其所有相关活动.
- 实践西文.01.确定过程规范及其所有相关活动.
- 实施服务和解决方案.05):这种信任因素要求组织计划、协调和实现服务和服务
解决方案.
- 实践西文.05.计划实施及其所有相关活动.
- 监控服务和解决方案(ES.07):此信任因素考虑持续监视服务、解决方案和服务的运行
数字信任的相关技术.
- 实践西文.07.01:监控过程运行.
- 活动西文.07.01.1:管理工艺操作的变更.
- 活动西文.07.01.2:监控运营指标和控制.
- 活动西文.07.01.4:监控流程对齐.
- 活动西文.07.01.识别改进项目，并将其纳入质量管理过程.
- 实践西文.07.01:监控过程运行.
结论
人工智能并不新鲜, 但最近的发展——即生成式人工智能的兴起——将市场推向了超速发展. 澳门赌场官方下载明智地接受这样一个现实，即至少有一些员工使用了某种形式的人工智能，并可能使知识产权面临风险. 与此同时, 所有类型的软件都被采用，其中包含人工智能, 这要求澳门赌场官方下载在部署更新之前进行尽职调查. 此外，由于解决方案提供商竞相保持竞争力，供应商市场正在升温.
现实是，人工智能就在这里，尽管存在风险, 停止这种做法是不现实的, 考虑到它的诸多好处, 无论行业或业务功能. 立法和标准将是建立护栏以实现道德的主要驱动力, 负责任地使用技术, 前者很可能会遵循隐私监管的相同路线和轨迹——一个由不统一的法律组成的复杂网络，肯定会让GRC专业人士头疼.
问题不再是澳门赌场官方下载是否会采用基于人工智能的技术，而是会采用多少. 即使澳门赌场官方下载不开发自己的私有模型, 人工智能无处不在, 非明确允许使用流行的生成式人工智能产品代表了影子IT的演变. 澳门赌场官方下载需要一个与业务目标一致的人工智能策略，并且必须验证人工智能实例用于解决业务问题，并且在可接受的风险承受水平范围内.
要做到这一点, 澳门赌场官方下载需要有一个健壮的框架来帮助确保遵守与人工智能相关的法律和监管要求, 国际标准指南, 以及客户合同义务. 尽管行业中有许多框架可用于不同的实践领域, DTEF框架帮助澳门赌场官方下载实现质量, 弹性, 透明和诚实, 道德与诚信, 可用性, 安全, 以及在其人工智能程序和系统中的私隐(图9).
图9: 可信赖AI的要素
DTEF也足够灵活，可以与其他框架一起使用. 采用DTEF来实现基于人工智能的技术意味着所有这些方面都将在整个生命周期中得到考虑, 它也有助于打破组织的竖井, 哪些可以在进程之间出现, people, 和技术. 当人工智能被设计出来, 发达, 并在组织中部署, DTEF提供的好处是, 如果实施有效, 它应该帮助组织证明遵守法规, 客户需求, 国际标准, 组织政策和程序, 但最重要的是, 该解决方案以合乎道德的方式实现业务目标, 负责任的态度.