فناوری Computer-Use (کنترل مستقیم موس، کیبورد و دسکتاپ توسط مدلهای هوش مصنوعی) جذابترین شاخه تعامل انسان و ماشین است، اما اجرای این مدلها در محیطهای ایزوله، ایمن و مقیاسپذیر همواره دغدغه اصلی شرکتها بوده است. پروژه متنباز cua با کسب بیش از ۲۵ هزار ستاره در گیتهاب، بستری یکپارچه برای اجرای بنچمارک، درایورهای کراسپلتفرم و مزارع مجازی ایجنتها فراهم کرده است.
قابلیت Computer-Use 2.0 چیست؟
در نسل اول، مدلها اسکرینشات دسکتاپ را دریافت میکردند و با تاخیر چند ثانیهای مختصات کلیک را میفرستادند که نرخ خطای بالایی در نرمافزارهای پیچیده داشت. پروژه cua رویکرد Computer-Use 2.0 را معرفی میکند که شامل:
- درایورهای سطح هسته (Kernel-Level Drivers) برای کاهش تاخیر استریم تصویر تا زیر ۵۰ میلیثانیه.
- شناسایی عناصر معنایی رابط کاربری بدون اتکای صرف بر بینایی بصری (Accessibility Tree Integration).
- امکان اجرای همزمان صدها ماشین مجازی در لینوکس، ویندوز و مک برای تست، آموزش تقویتی (RL) و جمعآوری داده.
معماری زیرساختی پروژه cua
پروژه cua از معماری میکروسرویس ابری بهره میبرد که شامل کلاینتهای سبک پایتونی و رانتایمهای امن کانتینری (QEMU/KVM و داکر) است. این ساختار تضمین میکند که اگر ایجنت هوش مصنوعی دست به اقدامی خطرناک یا غیرمنتظره زد، سیستم اصلی میزبان کاملاً ایزوله بماند و ماشین مجازی در کسری از ثانیه ریست شود.
نمونه کد اجرای ایجنت با پایتون
نصب SDK پایتون:
pip install cua-core anthropic
اسکریپت اجرای وظیفه خودکار در محیط شبیهسازیشده دسکتاپ:
import cua
from anthropic import Anthropic
# راهاندازی سشن ایزوله دسکتاپ
env = cua.make("desktop-linux-v2", headless=True)
obs = env.reset()
print("[*] رزولوشن دسکتاپ مجازی:", obs.screen_size)
# ارسال فرمان کلیک و اسکرول به درایور سریع cua
action = {
"type": "click_coordinate",
"x": 450,
"y": 320,
"button": "left"
}
next_obs, reward, done, info = env.step(action)
print("[*] تاخیر پاسخگویی فریم:", info.latency_ms, "میلیثانیه")
env.close()
مشخصات پروژه در گیتهاب
- مخزن رسمی: trycua / cua
- تعداد ستارهها: بیش از ۲۵,۸۴۰ ستاره
- حوزههای تخصصی: هوش مصنوعی، رباتیک نرمافزاری، یادگیری تقویتی، مجازیسازی
- لایسنس: MIT License