云平台appkaiyun
云平台appkaiyun
OneDegree Global 行政总裁叶沛贤在金融科技周上对21世纪经济报说念记者暗示kaiyun，面前AI大模子关于非结构性数据的处理以及随之产生的安全性问题和说念德风险是行业面前的痛点，需要有相应的器具检测洽商风险。
叶沛贤指出，AI大模子的过失可能导致安全性问题。在实质测试的过程中，测试者不错利用AI大模子对使用者来者不拒的脾性，通过特定的商议妙技顺利在商议中获得客户密码。同期，企业通过现存数据测验出的大模子，可能因为数据的脾性而导致其修起具有愤慨性。
叶沛贤暗示，针对这些问题，其公司面前正在使用AI器具对AI大模子进行评估，通过非侵入性测试或是挫折测试，检讨其中存在的安全性问题和说念德风险，得出相应评分以及处理决策。面前，其公司东说念主工智能模子仍是积存了1200多个针对AI大模子的使用案例。
10月28日，香港特区政府发表了洽商在金融市集负背负地应用东说念主工智能的战术宣言（以下称“宣言”）和一系列其他秩序，护航香港金融科技行业发展。宣言建议，手脚外洋金融中心，香港对在金融市集应用东说念主工智能抱绽开和审慎的气魄。特区政府会礼聘双轨步地，以促进金融工功课汲取及发展东说念主工智能，同期卤莽汇集安全、数据阴私及常识产权保障等潜在挑战。
叶沛贤暗示，面前不同国度和地区皆在连接推出其关于东说念主工智能的监管框架，诚然这些监管框架在一些细节上会有不同，但关于客户数据以及客户阴私保护的方针是一致的，不同监管机构对此皆很深爱。畴昔关于东说念主工智能大模子数据安全保护的需求会抓续加多。
AI在金融规模平素愚弄
《21世纪》：你以为东说念主工智能面前在金融行业有怎样样的愚弄？有什么主意不错与咱们共享？
叶沛贤：当今，东说念主工智能在金融界的应用运漂浮得越来越平素，在保障业中仍是有平素的应用，终点是在理赔历程等方面。往常，咱们有庞杂的数据却不知说念处理的圭臬。当今，利用相同ChatGPT的东说念主工智能模子时期，达到加速理赔的速率和减少东说念主工参与的后果。此外，在金融业的其他方面，东说念主工智能也被用来进行个性化的财务分析，以提供更贴合个东说念主需求的居品和事业。
《21世纪》：面前，东说念主工智能在金融行业中有什么样的发展趋势？
叶沛贤：当今有一个趋势，列国政府皆在徐徐推出监管东说念主工智能应用的框架，举例香港特区政府发表的洽商在金融市集负背负地应用东说念主工智能战术宣言。另一趋势是百行万企皆在利用东说念主工智能省略GenAI（生成式东说念主工智能）时期，修复适用于本行业中的东说念主工智能器具，比如金融行业的Robot Adviser（智能投顾），便是一种使用东说念主工智能来匡助客户作念出投资或财务照应决策的事业器具。
AI大模子要柔柔安全性和公说念性问题
《21世纪》：你觉安妥今群众的汇集安全濒临怎样样的挑战和风险？
叶沛贤：刻下咱们濒临的挑战是，利用现存数据测验出的模子可能会有安全性和公说念性的问题。举例，当一家银即将其贵府输入东说念主工智能来构建模子时，该模子会左证客户的民俗省略是特征提供谜底，而这些谜底可能是带有偏见的。因此，咱们濒临的最大担忧是，不知说念怎样死心构建的模子。
以台新银举止例，台新银行是咱们其中的一个客户，咱们在检讨他们所推出的LLM Model（大讲话模子）时发现，使用者不错利用大模子用户友好性的特色，通过谋划领导词以及不休发问的容颜，最终诱使聊天机器东说念主知道用户密码等明锐信息。
针对这些安全性以及公说念性的问题，咱们面前是使用我方测验的AI模子来测试客户的大讲话模子，以发现其中的过失。咱们仍是网罗了跨越1200个案例，这些案例是大讲话模子可能出现风险的场景，并利用这些案例去考证和测试客户的模子。
《21世纪》：金融行业波及的数据锐利常明锐的，同期，这些数据又是金融公司认果真钞票。你们怎样匡助这些公司利用好这些数据，同期保护这些用户的阴私安全？
叶沛贤：在东说念主工智能规模，客户阴私和贵府安全贫瘠性不言而谕，在总共这个词负背负应用东说念主工智能的框架中皆占据中枢性位。在客户推出最新的大讲话模子之前，咱们会对其模子进行评估，包括一些针对公司的非入侵性测试，为客户发现其中的过失，并为其提供初步的安全性评分。咱们也有进行渗入性测试，以白帽黑客的脚色挫折客户的待测系统，来识别出系统或平台的过失。
不同地区的AI监管存在共鸣
《21世纪》：谈及监管问题，当今群众的各个国度和地区针对东说念主工智能数据安完全在进行监管。针对这些不同的监管框架，跨国运营的企业是否会濒临挑战？
叶沛贤：由于各个国度和地区自身的地舆环境和营商环境不同，它们在监管框架谋划上可能会有所相反。不同国度和地区在监管上是存在共鸣的，数据安全和阴私问题皆是其柔柔的中枢问题。在这些方面，就我的不雅察而言kaiyun，在监管层面不会有太大的相反。