在全球各国锐意发展下，人工智能（AI）技术近年来呈现爆炸性成长，应用领域也正迅速扩展，然而诈骗集团也看准生成式AI的能力，利用该技术快速产生大量“高度个人化”的网络钓鱼内容，并且瞄准企业高层进行攻击，对企业营运造成严重威胁。
《金融时报》（FT）报导，包括英国保险业巨擘比兹利（Beazley）集团，以及拍卖网站eBay，近期都向旗下员工发出警告，表示有心人士或组织，往往透过网络公开资讯生成可信度极高的电子邮件，向企业人士进行钓鱼诈骗。
比兹利集团资安长凯利（KirstyKelly）指出，“由于诈骗手法日趋严重且高度个人化”，因此怀疑诈骗集团利用AI技术进行内容产制，且目前“已经观察到针对性极高，对个人资讯蒐集极为完整的诈骗手段”。
报导表示，资安专家认为科技公司争相研发先进AI技术，降低了诈骗集团运用该技术的门槛，进而使诈骗手段日趋精密，AI程式能够在短时间内吸取大量特定公司或是个人的资讯，产生出具有高可信度的诈骗内容。
除了公开资讯之外，AI也能够截取特定对象的网络足迹、社群媒体活动，并且据此判断受害者最有可能回应的话题，透过该模式大量形成诈骗内容。
根据美国资安最高主管机关“网络安全暨基础设施安全局”（CISA）统计，在成功的网络诈骗之中，有高达90%始于钓鱼信件，且在手法日新月异的发展之下，网络诈骗所造成的损失不断升高。
根据美国科技大厂IBM估算，2024年全球平均单一资料外洩案所造成的损失，较前1年上升了10%，达到490万美元，且研究人员示警，指出AI在生成商业信件、诱拐受害者提供公司机密资讯或是转移资金等方面特别有成效，美国联邦调查局（FBI）统计，自从2013年以来，该诈骗手法在全球已造成500亿美元的损失。
