AI PC 新弄法：OpenVINO GenAI+LoRA 助您轻松完成共性化

借助天生式 AI 模子（如 Stable Diffusion 跟 FLUX.1），用户能够将平平无奇的文本提醒词转换为令人冷艳的视觉后果。但假如你想天生更具作风化或定制化的图像，开源的基本模子可能无奈满意你的全部需要。这时，LoRA（低秩自顺应）就派上用处了。很多作风修正跟加强功效现以 LoRA 的情势宣布，作为基本模子的模块化附加组件。经由过程增加LoRA适配器，使得各人能够为所欲为、天生作风多变的特性化图像。本文援用地点：经由过程将 LoRA 集成到 OpenVINO™ GenAI 中，开辟者能够一次加载多个 LoRA 适配器，并在运转推理时疾速静态切换，无需从新编译基本模子。这使得用户可能以高效、可扩大的方法天生满意特定需要的、多样化、高品质的输出。当初，让咱们深刻懂得详细步调，借助 OpenVINO™ 将你的图像天生名目推向全新高度！目次1.克隆openvino.genai GitHub堆栈2.为AI模子转换装置相干依附包3.下载跟转换AI模子及响应的分词器4.抉择单个或许多个LoRA 适配器来停止图像天生5.用C++创立跟运转LoRA图像天生示例6.论断第0步: 问 OpenVINO™ GenAI 示例代码，休会 LoRA 适配器加持的文本天生图像功效懂得怎样应用 OpenVINO™ GenAI 搭配 LoRA 停止文本天生图像的最简略方式，就是检查代码堆栈中的示例源码。以下是应用 LoRA 停止图像天生的 Python 示例剧本:你会发明，只要大批代码，就能将 LoRA 适配器（单个或多个）轻松融入 OpenVINO™ GenAI 的文本天生图像流程。运转 LoRA 图像天生剧本，就像如许简略:此中pytorch_lora_weights.safetensors 就是咱们抉择的用于图像天生的LoRA 适配器。Step 1: 克隆openvino.genai GitHub堆栈从openvino.genai GitHub堆栈克隆OpenVINO™ GenAI的开源代码。Step 2：为AI模子转换装置相干依附包前去 文本天生图像（Text-to-Image）LoRA 示例:在这个文件夹中，你能够找到对于示例的相干README.md 文件. 你也能够直接从 OpenVINO™ 下载页面拜访该 README 文件。当初，你须要筹备一个 Python 虚构情况，用于模子下载跟转换。能够应用以下代码实现设置:Step 3：下载跟转换AI模子及响应的分词器为了天生图像，咱们将应用 FLUX.1-dev模子，而且能够经由过程一条下令下载并转换为 OpenVINO™ IR 格局:假如由小搭档不便利从HuggingFace的网站直接下载模子的，也能够先应用以下下令，从魔搭社区下载模子将模子保留在当地后，再次运转以下下令，实现模子的转换跟导出。别的，OpenVINO™ 还支撑其余实用于 LoRA 适配器的文本天生图像模子，完全列表请见此处。欢送实沙巴官网入口验差别模子，摸索更多可能性！过一会儿，转换实现后的模子就保存在了当地磁盘上，并筹备好停止图像天生。假如不再须要转换（或优化）AI 模子，你能够删除 venv_export 文件夹，这些依附包在 AI 推理的进程中并不须要。或许，你也能够直接从咱们在HuggingFace这里或许魔搭社区这里的模子专区下载咱们工程师已转换跟量化的 FLUX.1 模子，跳过上述 第 2 步跟第 3 步 的模子下载跟转换步调，直接从下方的推理步调开端应用模子！■ HuggingFacehttps://huggingface.co/OpenVINO/FLUX.1-schnell-int4-ov■ 魔搭社区https://modelscope.cn/models/OpenVINO/FLUX.1-schnell-int4-ovStep 4: 抉择单个或许多个LoRA 适配器来停止图像天生起首，我倡议你筹备一个 Python 虚构情况来运转 AI 推理。与用于模子下载跟转换的情况差别，这里你只要要装置一个 Pythopg电子娱乐平台n 包 —— openvino.genai。 openvino_genai.AdapterConfig 用于在 openvino_genai.Text2ImagePipeline 中治理 LoRA 适配器。它能够用于增加、移除适配器，或调剂它们的权重系数（Alpha）来实现作风融会。你能够在设置中参加一个或多个适配器，并经由过程 Alpha 系数停止混杂，以天生更具作风化跟创意的图像。现在，OpenVINO™ GenAI 支撑以 Safetensors 格局保留的 LoRA 适配器。你能够应用 CivitAI 或 HuggingFace Hub 上的公然预练习适配器，或许自行练习适配器来满意特性化需要。■ CivitAIhttps://civitai.com/■ HuggingFace Hub https://huggingface.co/models以下是用于处置多个 LoRA 适配器的代码示例,将 LoRA 集成到 OpenVINO™ GenAI 的文本天生图像流程中，仅需一行代码，如下所示：抉择单个LoRA适配器停止图像天生应用上述下令，你能够天生带有 “Yarn art” LoRA 作风的图像，并应用 INT4 量化的 FLUX.1-dev 模子，后果如下：