当前位置: 代码网 > it编程>前端脚本>Python > Python--界面UI控制,模拟键鼠操作的模块pyautogui(超详细用法)

Python--界面UI控制,模拟键鼠操作的模块pyautogui(超详细用法)

2024年08月02日 Python 我要评论
详细介绍如何使用 pyautogui 实现鼠标控制、键盘控制、界面操作、图像匹配等功能。

一、简介

pyautogui是一个python 第三方库,需要pip install 安装 。它允许我们通过编程方式模拟鼠标和键盘的操作,窗口操作,以及界面的截图匹配。由于它是照搬人的操作,底层没有套牢在windows系统,所以它可以跨平台。

二、安装

通过pip命令可以轻松安装pyautogui

pip install pyautogui -i https://pypi.tuna.tsinghua.edu.cn/simple

三、主要功能

  • 鼠标操作:pyautogui可以模拟鼠标移动、点击、拖拽等操作,可以控制鼠标的位置和点击的坐标。
  • 键盘操作:pyautogui可以模拟键盘按键和组合键的操作,如按下和释放按键、输入文本等。
  • 屏幕操作:pyautogui集成了pyscreeze模块,可以直接调用函数截屏、查找指定图像的位置等
  • 延时控制:pyautogui可以控制鼠标和键盘操作的延时,以确保操作的正确性和稳定性。
  • 窗口控制:pyautogui集成了pygetwindow模块,可以直接调用函数获取窗口信息、控制窗口大小、移动、关闭等

3.1、基础功能

获取鼠标当前位置

import pyautogui
print(pyautogui.position()) # point(x=1964, y=1338)

获取屏幕大小 

import pyautogui
print(pyautogui.size())  # size(width=3840, height=2160)

判断坐标是否在屏幕中

import pyautogui
print(pyautogui.onscreen(200, 200))
print(pyautogui.onscreen(2000, 4000))

3.2、gui控制功能

自动防故障功能

默认这项功能为true,意味着:当鼠标的指针在屏幕的最坐上方,程序会报错;目的是为了防止程序无法停止;

import pyautogui
print(pyautogui.failsafe)
pyautogui.failsafe = false
print(pyautogui.failsafe)

停顿功能

这个停顿只是在用pyautogui控制鼠标和键盘时生效,如果是执行一般功能的命令,则该停顿不生效

import pyautogui
pyautogui.pause = 5
pyautogui.moveto(200, 200, duration=1);pyautogui.moveto(2000, 1000, duration=1)

3.3、鼠标控制功能

 控制移动鼠标

        移动到指定位置

import pyautogui
pyautogui.moveto(100,300,duration=1)  #(100,300)是坐标, duration 的作用是设置移动时间,单位秒,所有的gui函数都有这个参数,而且都是可选参数 相对移动,按方向移动

         相对移动,按方向移动

import pyautogui
pyautogui.moverel(100,500,duration=4)  # 第一个参数是左右移动像素值,第二个是上下移动像素值

控制鼠标点击

        单击鼠标

import pyautogui
pyautogui.click(10,10)  # 鼠标点击指定位置,默认左键
pyautogui.click(10,10,button='left')  # 单击左键
pyautogui.click(1000,300,button='right')  # 单击右键
pyautogui.click(1000,300,button='middle')  # 单击中间 

        双击鼠标

import pyautogui
pyautogui.doubleclick(10,10)  # 指定位置,双击左键
pyautogui.rightclick(10,10)  # 指定位置,双击右键
pyautogui.middleclick(10,10)  # 指定位置,双击中键 

        按下和释放分解:点击&释放

import pyautogui
pyautogui.mousedown()
pyautogui.mouseup() # 两句命令相当于pyautogui.press()

pyautogui.mousedown(button='right') # 按下右键
pyautogui.mouseup(button='right', x=100, y=200) # 移动到(100,200),释放右键

控制鼠标拖动

        拖动到指定位置

import pyautogui
pyautogui.dragto(100,300,duration=1)  # 将鼠标拖动到指定的坐标

        拖动到相对位置,按方向拖动

import pyautogui
pyautogui.dragrel(100,500,duration=4)  # 第一个参数是左右移动像素值,第二个是上下移动像素值, 向右拖动100px,向下拖动500px, 这个过程持续 4 秒钟

控制鼠标滚动

        控制鼠标滚动的函数是scroll(), 传入一个整数的参数,说明向上或向下滚动多少个单位;单位根据操作系统不同而不同

import pyautogui
pyautogui.scroll(300)  # scroll up 300 "clicks"
pyautogui.scroll(10) # scroll up 10 "clicks"
pyautogui.scroll(10, x=100, y=100) # move mouse cursor to 100, 200, then scroll up 10 "clicks" 

补间/缓动函数(import pytweening)

        指示鼠标移动到目标位置时的进度,可以使鼠标移动变得更漂亮

3.4、键盘控制功能

按键

import pyautogui
pyautogui.press('enter')   # 按enter键,并释放
pyautogui.press('f1')
pyautogui.press(['left', 'left', 'left'])
pyautogui.press('left', presses=3)  # 可以设置按键次数

组合按键,按下&释放

例如:要在按住 shift 键的同时按向左箭头键

import pyautogui
pyautogui.keydown('shift')  # 按下shift键
pyautogui.press('left')  # 按左键,并释放
pyautogui.keyup('shift')   # 释放shift键

输入字符串

import pyautogui
pyautogui.write('hello world!', interval=0.25)  # interval 每个字符输入间隔时间

hold()上下文管理器

import pyautogui
with pyautogui.hold('shift'):
    pyautogui.press(['left','left','left'])

热键hotkey()函数

hotkey()可以传递多个按键字符串,这些按键字符串将按顺序按下,然后按相反的顺序释放。

import pyautogui
pyautogui.hotkey('ctrl', 'shift', 'esc)
# 相当于以下代码
# pyautogui.keydown('ctrl')
# pyautogui.keydown('shift')
# pyautogui.keydown('esc')
# pyautogui.keyup('esc')
# pyautogui.keyup('shift')
# pyautogui.keyup('ctrl')

3.5、消息框功能

警报框

import pyautogui
pyautogui.alert(text='this is an alert box', title='test', button='ok')   # 显示一个简单的消息框,其中包含文本和一个“确定”按钮。返回button键的值。

确认框/选择框

import pyautogui
pyautogui.confirm('选择一项', buttons=['a', 'b', 'c'])
pyautogui.confirm(text='', title='', buttons=['ok', 'n'])   # 显示一个选择框,有多个按键,返回按键的值

提示输入框

import pyautogui
pyautogui.prompt(text='', title='' , default='')   
# 显示带有文本输入的消息框以及“确定”和“取消”按钮。返回输入的文本,如果单击“取消”,则返回none

密码输入框

import pyautogui
pyautogui.password(text='', title='', default='', mask='*’)
# 显示带有文本输入的消息框以及“确定”和“取消”按钮。键入的字符显示为*。返回输入的文本,如果单击“取消”,则返回none

3.6 桌面截图,图片匹配,像素点rgb信息

源码,从源码中可看到,引用了pyscreeze模块、pillow模块,这两个模块会在安装pyautogui模块时一起安装。

引用的方法是红色框住的这些

截图功能

import pyautogui
pyautogui.screenshot("c:\\users\\xx\\test.png")  
# 全屏截图,传递一个文件名字符串会将截图保存到一个文件中,并将其作为一个image对象返回。 

pyautogui.screenshot("c:\\users\\xx\\test.png", region=(0, 0, 300, 400))      
# 非全屏截图,可选的region关键字参数。可以传递一个包含要捕获区域的左、顶、宽、高的四个整数元组

图片匹配

import pyautogui
pyautogui.locateall(needleimage, haystackimage, grayscale=none, region=none)
# # 返回一个生成器,用tuple转换一下生成器,得到一个元组,元组中的每个元素是box类的实例对象,未匹配到则返回空元组

pyautogui.locate(needleimage, haystackimage)
# 返回值就是上图的b[0],即box类的一个实例对象,如果未匹配则报异常

pyautogui.locateallonscreen(needleimage, minsearchtime)
# 与locateall()相比第二个参数变成了minsearchtime,可以理解最小匹配时间,会在这个时间中一直从当前界面找needleimage图,直至找到返回,返回值与pyautogui.locateall一样,是返回一个生成器

pyautogui.locateonscreen(needleimage, minsearchtime)
# 返回值是box类的一个实例对象,如果未匹配则报异常

pyautogui.locatecenteronscreen(needleimage)
# 匹配失败返回异常,匹配成功返回一个point类的一个实例,实例属性x, y坐标,匹配到的图片中心点

pyautogui.locateonwindow(image, title)
# 里面使用了pygetwindow模块,匹配title的ui界面中是否包含image,返回值同pyautogui.locateonscreen

像素点rgb信息

import pyautogui
pyautogui.center((10, 10, 6, 8))
# point(x=13, y=14)
# 返回一个point类的一个实例,tuple转换后为一个元组

pyautogui.pix(x, y)
# 返回屏幕像素在x, y处的颜色作为rgb元组,每种颜色表示从0到255。(x,y)像素点的(r, g, b)

pyautogui.pixelmatchescolor(x, y, (r, g, b))
pyautogui.pixelmatchescolor(200,500, (60,63,65))
# 返回true or false,即像素点的颜色匹配是否一致

3.7、窗口控制功能

pyautogui集成了pygetwindow模块,可以直接调用函数获取窗口信息、控制窗口大小、移动、关闭等

获得窗口对象

        获得当前活动(聚焦)窗口的对象
import pyautogui
pyautogui.getactivewindow()  # 返回当前活动(聚焦)窗口的对象
        获得所有可见窗口的窗口对象列表
import pyautogui
pyautogui.getallwindows()  # 返回所有可见窗口的窗口对象列表
        获得当前活动(聚焦)窗口的标题
import pyautogui
pyautogui.getactivewindowtitle()   # 返回当前活动(聚焦)窗口的标题
        获得所有可见窗口的标题字符串列表
import pyautogui
pyautogui.getalltitles()  # 返回所有可见窗口的标题字符串列表
        获得标题文本中包含字符'ibox'的窗口对象列表
import pyautogui
pyautogui.getwindowswithtitle(“ibox”)   # 返回标题文本中包含子字符'ibox'的窗口对象列表。
        获得包含坐标点的窗口对象列表
import pyautogui
pyautogui.getwindowsat(2000, 2000)   # 返回一个窗口对象列表,这些窗口包含坐标(2000, 2000)

控制窗口

        窗口对象的属性
import pyautogui
win = pyautogui.getwindowswithtitle('untitled')[0]  # win是title是'untitled'的窗口对象

# 窗口对象的属性
win.size  #(132,100)返回元组,窗口大小
win.width  # 返回int,窗口的宽度
win.height  # 返回int,窗口的高度
win.topleft  # (10,10)返回元组,窗口最左上角坐标 
win.bottomright  # (200,200)返回元组,窗口最右下角坐标
win.top  # 返回int,窗口上边缘的y坐标值
win.left  # 返回int,窗口左边缘的x坐标值
win.ismaximized  # 返回bool,窗口是否是最大窗口
win.isminimized   # 返回bool,窗口是否是最小窗口
        窗口对象的方法
import pyautogui
win = pyautogui.getwindowswithtitle('untitled')[0]  # win是title是'untitled'的窗口对象

# 窗口对象的方法
win.maximize()   # 窗口最大化
win.minimize()   # 窗口最大化
win.restore()   # 恢复窗口大小
win.resize(200,200)   # 窗口x轴增加200,y轴增加200
win.resizeto(200,200)   # 窗口变化至x轴宽度200,y轴宽度200
win.move(10, 10)   # 窗口相对当前位置x轴移动10,y轴移动10
win.moveto(10, 10)   # 窗口移动至10,y轴移动至10,左上角坐标(10,10)

四、应用

       自动化测试

        可以模拟用户的操作,用于自动化测  试各种软件和系统的功能。  

       数据采集和处理

        可以帮助自动化从网页或应用程序中采集数据,并进行处理和分析。

       软件演示和教程录制

        可以用于自动化演示软件的功能和操作,录制教程视频等。  

       游戏辅助工具

        可以用来制作游戏辅助工具,自动化完成一些重复性操作。

五、官方文档

       pyautogui

        https://pyautogui.readthedocs.io/en/latest/msgbox.html  

       pygetwindow  

        https://pygetwindow.readthedocs.io/en/latest/#  

       pillow/pil  

        https://pillow.readthedocs.io/en/latest/#    

       pyscreeze  

        https://github.com/asweigart/pyscreeze

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com