新兴技术的治理与伦理

LG-benjamin-Witt_Sarah_Wonlanske
作者: 本杰明一. 威特和莎拉·J. Wolanske
发表日期: 2021年4月28日

随着组织探索和采用新兴技术, 治理很少出现在他们议程的最前面. 从商业角度来看, 可以合理地预期,关注和努力往往集中在获得新的和创新的技术的好处上. 然而, 我们也承认这种变化, 更不用说引进新兴技术了, 这是组织所追求的最冒险的努力之一吗. 因此, 当与新技术相关的新的和容易被低估的风险进入环境时,适当的治理是最重要的,这是理所当然的.

尽管现在让一切顺利,以后再解决风险是很诱人的, IT治理专业人员必须尽早并经常在整个变更过程中进行治理对话. 限制这些对话的最大因素之一也是固有的 新兴技术它正在出现的事实. 例如, 人工智能(AI)和机器学习(ML)并不是新技术,因为它们还没有普及. 相反,这些技术正被广泛用于各种目的. 然而, 有效的, 有效和合乎道德地实施这项技术远不是一门既定的科学. 因此, IT治理专业人员必须避免假设传统的IT治理就足够了.

我们如何管理我们不完全了解的技术? 开始, 我们必须确定新兴技术带来的独特风险,并评估我们当前的框架,以了解现有的目标和活动是否适当. 在当前框架无法应对新风险的地方,我们必须进行调整和扩展. 要避免的一个危险是,在没有重新评估目标的情况下专注于增加活动. 重要的是要批判性地考虑一个新的目标可以增强我们的识别能力, 理解并降低风险. 例如, 而保持数据准确性在治理框架中是相当传统的, 与AI和ML输出相关的细微差别可能需要新的和特定的目标来有效地解决风险. 第二个危险可能是将当前的活动与新兴技术相关的新风险强行结合起来. 例如, 利用人工智能和机器学习的系统可能需要额外的数据安全活动,以确保关键预测中使用的数据不受损害.

新兴技术为组织提供了许多机会. IT治理专业人员应该利用这个机会,积极主动地处理新兴技术带来的独特风险.

新兴技术的伦理
人工智能和机器学习等新兴技术也带来了伦理问题, 对组织构成风险. 当我们允许这种技术在我们的系统中自主运行时, 尽早解决伦理问题变得至关重要. 具体地说, 关于隐私的道德考虑, 应优先考虑差别影响和歧视问题. 制定有关数据收集和数据隐私的指导方针是组织如何在道德标准上将自己与其他组织区分开来的两个例子. 组织必须对透明的数据收集和使用负责. 了解你的系统是如何工作的,并向你的利益相关者坦白你如何使用他们的数据可以增加品牌资产. 与收集密切相关的是数据隐私. 尤其是在市场环境中, 组织所掌握的消费者信息的数量是强大的. 制定保护和维护消费者隐私的标准是道德行为基础的一部分.

人工智能可以为组织带来神奇的东西. 然而,人类仍然是构建这种人工智能的核心,人类也有偏见. 随着我们越来越多地将这项技术应用到我们的决策中, 我们必须有意识地意识到我们的偏见可能对技术产生的影响. 中立环境下人工智能的伦理讨论与治理建设, 不要给它灌输人类的偏见, 会让人工智能有机会对改变日常决策的方式产生积极影响吗.

新兴技术可以为组织的工具带来重大改进, 技术和程序. 确保这些变更符合组织的价值观. 这可能需要你愿意提出一些尖锐的问题,围绕技术会(或不会)给你的操作流程带来的实际价值. 人们很容易认为,增加技术会让一切变得更好. 虽然这在很多情况下可能是正确的, 了解道德影响和增值应该是IT专业人员的首要任务.

编者按: 有关这个主题的进一步见解,请阅读本杰明一. 莎拉·J·维特. Wolanske和Jeffrey W. Merhout最近在杂志上的一篇文章, “I&营销中人工智能的治理框架:COBIT 2019扩展 ISACA杂志,第二卷,2021年.

别忘了,澳门赌场官方软件可以 免费获得CPE 来自ISACA期刊的测验!

ISACA杂志