Bạn muốn thử FLUX trực tuyến mà không gặp rắc rối nào thêm?
Bạn có thể chạy FLUX.1 Pro, Schnell và Dev tại Anakin AI ngay bây giờ!
Flux Schnell là một mô hình tạo hình ảnh từ văn bản mạnh mẽ có khả năng sản xuất hình ảnh chất lượng cao từ các gợi ý văn bản. Trong hướng dẫn này, chúng ta sẽ hướng dẫn bạn qua các bước để thiết lập và chạy Flux Schnell cục bộ trên MacBook Pro M3 Max. Cấu hình này cho phép việc tạo hình ảnh hiệu quả bằng cách sử dụng tới 40GB RAM, với mỗi hình ảnh mất khoảng 30 giây để sản xuất.
Trước khi bắt đầu, hãy đảm bảo hệ thống của bạn đáp ứng các yêu cầu sau:
Hướng dẫn từng bước để chạy Flux.1 Pro trên Mac cục bộ
Đầu tiên, chúng ta sẽ tạo một môi trường Conda mới và kích hoạt nó:
conda create -n flux python=3.11
conda activate flux
Bây giờ, hãy cài đặt các gói cần thiết:
pip install torch==2.3.1
pip install git+https://github.com/huggingface/diffusers.git
pip install transformers==4.43.3 sentencepiece==0.2.0 accelerate==0.33.0 protobuf==5.27.3
Tạo một tệp Python mới có tên flux_schnell.py và thêm mã sau:
import torch
from diffusers import FluxPipeline
import diffusers# Sửa đổi chức năng rope để xử lý thiết bị MPS
_flux_rope = diffusers.models.transformers.transformer_flux.rope
def new_flux_rope(pos: torch.Tensor, dim: int, theta: int) -> torch.Tensor:
assert dim % 2 == 0, "Kích thước phải là số chẵn."
if pos.device.type == "mps":
return _flux_rope(pos.to("cpu"), dim, theta).to(device=pos.device)
else:
return _flux_rope(pos, dim, theta)
diffusers.models.transformers.transformer_flux.rope = new_flux_rope
# Tải mô hình Flux Schnell
pipe = FluxPipeline.from_pretrained(
"black-forest-labs/FLUX.1-schnell",
revision='refs/pr/1',
torch_dtype=torch.bfloat16
).to("mps")
# Xác định gợi ý
prompt = "Một con mèo cầm một tấm biển ghi hello world"
# Tạo hình ảnh
out = pipe(
prompt=prompt,
guidance_scale=0.,
height=1024,
width=1024,
num_inference_steps=4,
max_sequence_length=256,
).images[0]
# Lưu hình ảnh đã tạo
out.save("flux_image.png")
Thực thi tập lệnh Python:
python flux_schnell.py
Điều này sẽ tạo ra một hình ảnh dựa trên gợi ý “Một con mèo cầm một tấm biển ghi hello world” và lưu nó dưới dạng “flux_image.png” trong cùng thư mục.
Hãy phân tích các thành phần chính của tập lệnh:
import torch
from diffusers import FluxPipeline
import diffusers
Các dòng này nhập các mô-đun cần thiết: PyTorch cho các phép toán tensor, FluxPipeline từ thư viện diffusers để sử dụng mô hình Flux Schnell và mô-đun diffusers cho các tiện ích bổ sung khác.
_flux_rope = diffusers.models.transformers.transformer_flux.rope
def new_flux_rope(pos: torch.Tensor, dim: int, theta: int) -> torch.Tensor:
assert dim % 2 == 0, "Kích thước phải là số chẵn."
if pos.device.type == "mps":
return _flux_rope(pos.to("cpu"), dim, theta).to(device=pos.device)
else:
return _flux_rope(pos, dim, theta)diffusers.models.transformers.transformer_flux.rope = new_flux_rope
Phần này sửa đổi chức năng rope (Rotary Position Embedding) để xử lý thiết bị MPS (Metal Performance Shaders) được sử dụng trên các chip Apple Silicon. Nó đảm bảo tính tương thích với chip M3 Max bằng cách di chuyển các tensor về CPU khi cần thiết.
pipe = FluxPipeline.from_pretrained(
"black-forest-labs/FLUX.1-schnell",
revision='refs/pr/1',
torch_dtype=torch.bfloat16
).to("mps")
Mã này tải mô hình Flux Schnell từ kho mô hình Hugging Face. Nó chỉ định phiên bản mô hình, đặt kiểu dữ liệu thành bfloat16 để tối ưu hóa hiệu suất và di chuyển mô hình đến thiết bị MPS.
prompt = "Một con mèo cầm một tấm biển ghi hello world"out = pipe(
prompt=prompt,
guidance_scale=0.,
height=1024,
width=1024,
num_inference_steps=4,
max_sequence_length=256,
).images[0]
Ở đây, chúng ta xác định gợi ý và sử dụng mô hình đã tải để tạo ra một hình ảnh. Các tham số điều khiển các khía cạnh khác nhau của quy trình tạo hình:
guidance_scale: Đặt thành 0 cho việc tạo ra không có điều kiện.height và width: Đặt kích thước của hình ảnh đầu ra thành 1024x1024 pixel.num_inference_steps: Kiểm soát số bước khử tiếng ồn (4 trong trường hợp này để tạo nhanh hơn).max_sequence_length: Giới hạn độ dài tối đa của chuỗi đầu vào.out.save("flux_image.png")
Cuối cùng, dòng này lưu hình ảnh đã tạo dưới dạng tệp PNG có tên “flux_image.png” trong thư mục hiện tại.
Để tận dụng tối đa MacBook Pro M3 Max của bạn và đạt được thời gian tạo khoảng ~30 giây với mức sử dụng RAM lên đến 40GB, hãy xem xét các mẹo sau:
height và width. Ngược lại, bạn có thể tăng chúng để có chất lượng cao hơn với thời gian tạo lâu hơn.num_inference_steps: Tăng giá trị này có thể dẫn đến hình ảnh chất lượng cao hơn nhưng cũng sẽ tăng thời gian tạo. Giảm nó sẽ làm nhanh quá trình nhưng có thể giảm chất lượng hình ảnh.torch.bfloat16 giúp giảm mức sử dụng bộ nhớ và có thể tăng tốc độ mà không làm giảm đáng kể chất lượng.Nếu bạn gặp bất kỳ vấn đề nào khi chạy Flux Schnell trên MacBook Pro M3 Max của mình, hãy thử các cách sau:
torch.cuda.empty_cache()
5. Khởi động lại kernel: Nếu bạn đang sử dụng một sổ tay Jupyter hoặc môi trường tương tự, hãy thử khởi động lại kernel nếu bạn gặp phải lỗi kéo dài.
Chạy Flux Schnell cục bộ trên MacBook Pro M3 Max của bạn cung cấp khả năng tạo hình ảnh từ văn bản mạnh mẽ. Với cấu hình được mô tả trong hướng dẫn này, bạn có thể tạo ra hình ảnh chất lượng cao từ các mô tả văn bản trong khoảng 30 giây, sử dụng tới 40GB RAM. Hãy nhớ rằng hiệu suất có thể thay đổi tùy thuộc vào phần cứng của bạn và độ phức tạp của các gợi ý.
Hãy tự do thử nghiệm với các tham số khác nhau để đạt được sự cân bằng tốt nhất giữa tốc độ và chất lượng hình ảnh cho nhu cầu của bạn. Khi các mô hình AI và phần cứng tiếp tục phát triển, những kết quả ấn tượng hơn đang ở phía chân trời. Chúc bạn tạo ra thật nhiều hình ảnh thú vị!
