Automatisation de bureau au pixel près avec contrôle de la souris, du clavier, capture d'écran, gestion des fenêtres et du presse-papiers.
npx clawhub@latest install desktop-controlDesktop Control est une compétence d'automatisation de bureau complète qui donne aux agents IA un contrôle précis et programmatique sur l'ensemble de votre environnement de bureau. Elle couvre les mouvements de souris (y compris les trajectoires courbes de Bézier), la saisie au clavier à des vitesses configurables, la capture d'écran et la reconnaissance d'images, la gestion des fenêtres et les opérations de presse-papiers. Construite sur PyAutoGUI et OpenCV, elle inclut des mécanismes de sécurité tels que les coins de sécurité et le mode d'approbation pour maintenir l'automatisation sous votre contrôle.
npx clawhub@latest install desktop-controlCliquez sur le bouton Installer en haut de cette page pour une configuration en un clic
Déplacez le curseur vers des coordonnées d'écran absolues ou des décalages relatifs, avec des trajectoires optionnelles en courbe de Bézier qui imitent les mouvements humains naturels. Prend en charge les clics gauche, droit et central, les doubles/triples clics, le glisser-déposer, ainsi que le défilement vertical et horizontal.
Saisissez du texte à n'importe quelle vitesse, de l'instantané à un rythme humain en MPM, exécutez des raccourcis multi-touches (Ctrl+C, Win+R, etc.), appuyez sur des touches spéciales et de fonction, et maintenez ou relâchez manuellement des touches de modification pour des interactions complexes telles que la sélection de plusieurs fichiers.
Capturez l'écran complet ou toute région rectangulaire et enregistrez le résultat au format PNG. Utilisez éventuellement OpenCV pour localiser une image modèle n'importe où sur l'écran avec un seuil de confiance configurable, permettant la détection d'éléments sans coordonnées codées en dur.
Listez toutes les fenêtres ouvertes, activez n'importe quelle fenêtre par correspondance partielle du titre, récupérez la fenêtre actuellement active, et lisez la position, la taille et le titre des fenêtres — facilitant ainsi l'orchestration de flux de travail multi-applications.
Un mode de sécurité intégré interrompt l'automatisation lorsque la souris atteint un coin de l'écran. Un mode d'approbation demande une confirmation de l'utilisateur avant chaque action. La vérification des limites empêche les opérations hors écran, et toutes les actions sont enregistrées à des fins d'audit.
Écrivez du texte dans le presse-papiers ou lisez son contenu actuel par programmation, permettant un transfert de données fluide entre les applications sans simuler de raccourcis clavier.
Un agent active une fenêtre d'application cible, clique dans chaque champ de formulaire en séquence, saisit les valeurs appropriées à une vitesse similaire à celle d'un humain, puis soumet le formulaire — reproduisant ainsi le comportement d'un utilisateur remplissant un formulaire web ou de bureau complexe, sans aucun accès à l'API de l'application.
Après avoir déclenché une action dans une application, capturez une région spécifique de l'écran pour l'enregistrer en tant que PNG horodaté, puis utilisez la reconnaissance d'image pour confirmer que le bouton ou la boîte de dialogue attendu est visible avant de continuer.
Maintenez Ctrl enfoncé et cliquez sur plusieurs fichiers dans un gestionnaire de fichiers pour les sélectionner, puis faites glisser la sélection vers un dossier de destination — le tout scripté comme une séquence d'automatisation unique et reproductible.
Activez une application source, sélectionnez et copiez des données à l'aide de raccourcis clavier, basculez vers une application de destination via l'activation de fenêtre, puis collez — en automatisant un flux de travail qui nécessiterait autrement un copier-coller manuel entre les programmes.
pyautogui, pillow, pygetwindow sont requis. opencv-python est optionnel mais nécessaire pour la reconnaissance d'image (find_on_screen).npx clawhub@latest install desktop-controlSe connecter pour écrire un avis
Aucun avis pour l'instant. Soyez le premier à partager votre expérience !