Run là một công cụ tối ưu hóa và điều phối AI đột phá, tập trung vào tối đa hóa việc sử dụng GPU cho phát triển trí tuệ nhân tạo. Nền tảng này được thiết kế một cách tinh vi để quản lý động lực lượng công việc AI và tài nguyên, đảm bảo rằng các dự án AI không chỉ được tăng tốc mà còn chạy hiệu quả hơn. Điểm mạnh của Run nằm ở khả năng cung cấp cái nhìn rõ ràng vào cơ sở hạ tầng AI, công việc và tương tác người dùng, giúp tối ưu hoá hoạt động và tăng năng suất.
Các tính năng chính:
- Lập lịch Công việc AI: Tối ưu quản lý tài nguyên cho toàn bộ vòng đời AI.
- Phân chia GPU: Tăng cường hiệu quả chi phí trong môi trường như Notebook Farms và môi trường Inference bằng cách cho phép sử dụng phân đoạn của GPU.
- Gom nhóm Node: Quản lý các cụm AI không đồng nhất với hạn ngạch, ưu tiên và chính sách ở cấp độ nhóm node.
- Điều phối Container: Hỗ trợ điều phối các công việc được chứa trong các cụm AI dựa trên đám mây.
- Quản lý Tài nguyên Động: Với các tính năng như gom nhóm GPU và lập lịch động, Run.ai hứa hẹn mức tăng tải lên đến 10 lần trên cùng một cơ sở hạ tầng.
Run nổi bật với AI Workload Scheduler và GPU Fractioning, cung cấp khả năng quản lý tài nguyên cao và hiệu quả vận hành. Với Run, các tổ chức có thể mở rộng khả năng AI của mình một cách hiệu quả và bảo mật.
