← 返回列表

用AI开发逼真的社交傀儡帐户

聚合站 SecWiki技术 作者 军机故阁 发布 2023年4月13日 14:48 入库 2026-11-18T11:24:40

近期国内也发布了《生成式人工智能服务管理办法》,也表明了其实AI有很多不同的方向、风险和能力。如我们需要一些国外社交媒体的研究账号,但对于国外的真实社交环境设置了解不够,这样对于国外社交账号的需求和设定也有了不同的解决方式。

关于将 AI(例如 ChatGPT)加入到我们日常的 OSINT 分析中的新的和创新的方法,近期各类群里也是议论纷纷。值得注意的是,来自 SANS 的 Matt Edmondson 最近举办了一个名为“新 OSINT:ChatGPT作弊代码”的网络研讨会,而 Benjamin Strick (@BenDoBrown) 一直在他的推上发布使用 Chat GPT 进行调查的技巧。但在这篇文章中,我不想关注具体的分析技术,而是关注我们用来进行调查的帐户,以及我们如何使用人工智能来创建和维护真实的在线形象。

什么是傀儡帐户?

傀儡帐户和研究帐户是我们在网上使用的虚拟角色,可以在社交媒体上安全地进行研究和观察。

为什么我们需要使用 AI 来创建傀儡帐户?

我们希望使用 AI 来帮助创建傀儡帐户主要原因是可以自动化、快速、节约成本、逼真的制造一些想要的设定。

社交媒体平台不断发展和开发通过评估用户在个人资料中使用的图像和提供的信息来识别虚假账户的方法。

我们希望创建的帐户看起来尽可能真实,并且通常需要背景故事、他们生活的细节以及各种姿势的个人图像。

当前的 sock 帐户创建策略存在哪些问题?目前,我们中的许多分析师都使用一些方法来创建 sock 账户。它涉及使用您自己设定出的信息或从生成虚假信息的网站上提取的信息来创建角色。对于帐户上的个人资料图片,我们有几个选项:使用随机对象或图形、使用库存照片或使用随机人脸生成器. 然而,所有这些方法都存在问题。使用随机对象可以绕过搜索虚假角色的算法,但对于任何正在调查的人来说,它不会增加帐户的真实性。使用库存照片可能是道德上的灰色地带,因为如果我们正在分析危险的个人或团体,我们应该给他们一个真实的人作为目标吗?此外,这些图像通常可以通过反向图像搜索回到库存模型,揭示它是假的。最后,使用面部生成器变得越来越困难,因为算法现在可以识别眼睛位置的模式并确定它是否是假的。这通常需要额外的操作,例如翻转图像、放大、改变颜色等。

加入最新的和改进的 AI 功能

我们现在可以使用ChatGPThttps://openai.com/blog/chatgpt(和BARDhttps://bard.google.com/)等工具,这是一种由 OpenAI 开发的人工智能聊天机器人,可以响应复杂的问题,还有 AI 图像生成器,如:

Midjourneyhttps://www.midjourney.com/、

Adobe Fireflyhttps://www.adobe.com/sensei/generative-ai/firefly.html

DALL-Ehttps://openai.com/product/dall-e-2,

可以输出超逼真的图像,将图像混合在一起,甚至从起始图像开发图像。这些功能不仅减少了创建逼真、持久的在线角色所需的时间,而且还可以帮助使用图像配合帐户创建可发布的内容。让我们看一个示例,了解如何使用这些工具开发角色。

在ChatGPT中开发可用的查询为了获取我们角色的背景详细信息,我们可以在ChatGPT中设计有关“角色开发”的查询。在下面,我要求它“制定一份关于一位在麻省理工学院工作的 32 岁女性的性格细节列表。

我们还可以使用ChatGPT为我们的国外角色开发可能的名字和姓氏,我们可以使用位置和种族等描述符来查询这些名字以返回选项。

在 Midjourney 中开发可用的查询使用我们从上面的ChatGPT查询中获取的信息,现在让我们使用 Midjourney 开发一些图像。Midjourney 在 Discord 中运行,并提供试用版(目前不可用)和几个小时的免费渲染,但如果您决定为其付费,成本仍然是可控的。目前,最低级别为每月 10 美元,最多200个,然后15小时为30美元/月,30小时为60美元/月。这里需要注意风险的是,如果您使用测试版,您生成的图像确实会出现在公开的 Midjourney Discord 中,但它们通常很快就会被新的公开生成的图像淹没,过一段时间后,Midjourney 会将它们从 Discord 中删除。

为了生成我们称之为“Grace Liu”的麻省理工学院员工的图像,我使用了以下查询:一位 30 多岁的亚裔美国女性的肖像,休闲服装,运动身材,自然采光,站在户外拥抱朋友,微笑,饱满身体射击。正如您在下面看到的那样,它在生成这些图像方面做得相当好,并添加了一些奇怪的异常现象,例如有时会被裁剪掉的额外手指。虽然 Midjourney 和 Dall-E 在每次迭代中都在手部细节方面做得更好,但要使它们恰到好处仍然需要很多技巧。手的一些选项包括非常具体地说明手在做什么,在提示中提到手指,以及添加“精确细节”的提示。有时重新生成提示或放大图像可以帮助修复缺陷。至于需要实物验证的社交媒体平台,比如“拍一张自己做和平手势的照片”,这可能还有几个版本,但我们已经接近了。

生成图像的另一种选择是使用种子图像,它可以是人的真实照片、库存图像,甚至是另一张 AI 生成的图像。如果您确切地知道您希望您的人看起来像什么,但您需要他们以特定的姿势或执行特定的动作,这可能很有价值。下面的第一张图片来自一个图片库网站。我根据下面的各种提示将这张图片输入 Midjourney,以便从不同角度查看主题:

种子图片链接,广角镜头,全身,女人,黑红相间的运动服,自然光,棕色头发,16mm镜头,在户外篮球场和一个30岁的男人全身打篮球,混杂0

种子图片链接,广角镜头,女人,运动服,自然光,棕色头发,16mm镜头,脸部侧面图,混杂0,--没有手

种子图片链接,真实感中景,穿红毛衣的女人,仰视,头顶拍摄,夜晚,自然光,混杂0

您的提示由关键字加上:

意象风格——想想现代主义、超现实主义和赛博朋克

分辨率 - 图像看起来有多清晰

使用种子图像 - 为它提供一个(或多个)起始图像作为指导或混合在一起

宽高比 - 这是图像输出的宽度和长度

提示权重 - 指定哪个提示部分应该更重要

过滤器-过滤掉手之类的东西

混杂- 图像中的 0-100 抽象级别

当然,使用这些方法来开发傀儡帐户配置文件并非万无一失。我想社交媒体平台已经在研究确定哪些图像是人工智能与现实的方法。然而,分析师将这种类型的流程整合到他们的日常工作中的潜力很大。有关如何编写机器人生成技巧,可以参考一些prompts教程,比如:

https://prompthero.com/midjourney-prompts

原文链接:https://mp.weixin.qq.com/s/uLhtDWn_o2n4sAGJVQOJXg