Python 異步調用命令行工具

當你在自己的 Python 程序中采用了基于事件循環的異步編程方法之后，你就會發現自己不自覺地被其牢牢吸引住，并不是說這一方法多么棒，而是因為你不得不想辦法保證程序中的任意環節都不能是阻塞的！

例如當前的場景是希望從 MongoDB 中讀取每一條未處理過的數據，下載并保存其中的圖片信息，然后更新數據庫的內容。Python 常用的 MongoDB 異步驅動是 Motor :

結合 asyncio 使用方法如下：

importmotor.motor_asyncio  
importasyncio
 
client = motor.motor_asyncio.AsyncIOMotorClient()  
db = client.test_database
 
asyncdefrun():  
    asyncfor mmin db.test_database.find({"status": 0}):
        print(mm['img_src'])
        # Download Image Here
        # dl_img(mm['img_src'])
 
        awaitdb.test_database.update({"_id": mm['_id']}, {"$set": {"status":1}})
 
loop = asyncio.get_event_loop()  
loop.run_until_complete(run())  

此時如果 dl_img() 處的操作是阻塞的，那么異步處理就沒有意義了。當然這里依然可以借助異步網絡請求庫 aiohttp 來實現圖片下載：

asyncwithsession.get(img) as resp:  
    withopen(img.split("/")[-1], 'wb') as fd:
        while True:
            chunk = awaitresp.content.read(1024)
            if not chunk:
                break
            fd.write(chunk)

當然也可以不需要自己動手下載，直接調用系統命令行工具（例如 wget ）來完成下載任務。Python 通過 subprocess 標準庫實現系統命令調用（取代舊的 os.system(cmd) ），執行下載任務只需要：

importsubprocessas sb
 
sb.run(['wget', img], shell=True)  

但是這種調用方式是無法直接在 asyncio 的事件循環中使用的，但是 asyncio 提供了對應的 subprocess 接口 ：

asyncio.create_subprocess_exec(*args, ...)  
asyncio.create_subprocess_shell(cmd, ...)  

這兩個方法均返回一個 asyncio.subprocess.Process 實例，而它的接口設計完全模仿了 subprocess.Popen （上面提到 subprocess.run() 的底層實現），因此很容易將其用法移植到事件循環中：

asyncdefdl_img(src):  
    dl = awaitasyncio.create_subprocess_shell('wget {} -O {}'.format(src, src.split("/")[-1])
    awaitdl.wait()

除了上面場景中的用法，也可以直接將命令行的執行作為任務放入事件循環：

loop = asyncio.get_event_loop()  
sb = asyncio.create_subprocess_shell('exit 7', loop=loop)  
proc = loop.run_until_complete(sb)  
exitcode = loop.run_until_complete(proc.wait())  

小結

在 Python 異步編程的意義就在于不要讓 CPU 堵在 IO 上，因此需要在每一處涉及到阻塞的操作都需要注意使用正確的異步方法，而一旦這些操作被封裝成異步的 Task 之后，其后續的調度執行就無需再顧慮了。

來自：http://python.jobbole.com/86829/