生成器與迭代器
先來張圖:Iterator,Generator關係
生成器(
Generator
)
我們建立列表的時候,受到記憶體限制,容量肯定是有限的,而且不可能全部給他一次枚舉出來。這裡可以使用列表生成式,但是它有一個致命的缺點就是定義即生成,非常的浪費空間和效率。
所以,如果列表元素可以按照某種演算法推算出來,那我們可以在迴圈的過程中不斷推算出後續的元素,這樣就不必建立完整的list,從而節省大量的空間。
在Python中,這種一邊迴圈一邊計算的機制,稱為生成器:generator。
要建立一個generator,一種方法很簡單,只要把一個列表生成式的[ ]改成( ),就建立了一個generator:
>>> [x*x for x in range(10)]
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
>>> (x * x for x in range(10))
我們怎麼打印出generator的每一個元素呢?
如果要一個一個打印出來,可以透過next( )函式獲得generator的下一個返回值:
>>> g = (x * x for x in range(5))
>>> next(g)
0
>>> next(g)
1
>>> next(g)
4
>>> next(g)
9
>>> next(g)
16
Traceback (most recent call last):
File “
StopIteration
我們講過,generator儲存的是演算法,每次呼叫next(g),就計算出g的下一個元素的值,直到計算到最後一個元素,沒有更多的元素時,丟擲StopIteration的錯誤。
當然,上面這種不斷呼叫next(g)實在是太變態了,正確的方法是使用for迴圈,因為generator也是可迭代物件:
>>> g = (x * x for x in range(5))
>>> for n in g:
。。。 print(n)
。。。
0
1
4
9
16
所以,我們建立了一個generator後,基本上永遠不會呼叫next( ),而是透過for迴圈來迭代它,並且不需要關心StopIteration的錯誤。
還有一個方法是生成器函式,如果一個函式定義中包含yield關鍵字,那麼這個函式就不再是一個普通函式,而是一個generator。
舉個栗子:
斐波拉契數列(Fibonacci),除第一個和第二個數外,任意一個數都可由前兩個數相加得到:
1, 1, 2, 3, 5, 8, 13, 21, 34, 。。。
斐波拉契數列用列表生成式寫不出來,但是,用函式把它打印出來卻很容易:
def fib(max):
n, a, b = 0, 0, 1
while n < max:
print(b)
a, b = b, a + b
n = n + 1
return ‘done’
上面的函式可以輸出斐波那契數列的前n個數:
>>> fib(5)
1
1
2
3
5
‘done’
可以看出,fib函式實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出後續任意的元素,這種邏輯其實非常類似generator。
也就是說,上面的函式和generator僅一步之遙。要把fib函式變成generator,只需要把print(b)改為yield(b)就可以了:
def fib(max):
n, a, b = 0, 0, 1
while n < max:
yield b
a, b = b, a + b
n = n + 1
return ‘done’
>>> f = fib(max)
>>> f
需要注意的一點:
generator和函式的執行流程不一樣。函式是順序執行,遇到return語句或者最後一行函式語句就返回。而變成generator的函式,在每次呼叫next( )的時候執行,遇到yield語句返回,再次執行時從上次返回的yield語句處繼續執行。
舉個栗子:
def odd():
print(‘step 1’)
yield 1
print(‘step 2’)
yield 2
print(‘step 3’)
yield 3
呼叫該generator時,首先要生成一個generator物件,然後用next( )函式不斷獲得下一個返回值:
>>> o = odd()
>>> next(o)
step 1
1
>>> next(o)
step 2
2
>>> next(o)
step 3
3
>>> next(o)
Traceback (most recent call last):
File “
StopIteration
可以看到,odd不是普通函式,而是generator,在執行過程中,遇到yield就中斷,下次又繼續執行。執行3次yield後,已經沒有yield可以執行了,所以,第4次呼叫next(o)就報錯。
回到fib的例子,我們在迴圈過程中不斷呼叫yield,就會不斷中斷。當然要給迴圈設定一個條件來退出迴圈,不然就會產生一個無限數列出來。
同樣的,把函式改成generator後,我們基本上從來不會用next( )來獲取下一個返回值,而是直接使用for迴圈來迭代:
>>> for n in fib(5):
。。。 print(n)
。。。
1
1
2
3
5
但是用
for
迴圈呼叫generator時,發現拿不到generator的
return
語句的返回值。如果想要拿到返回值,必須捕獲
StopIteration
錯誤,返回值包含在
StopIteration
的
value
中:
>>> g = fib(5)
>>> while True:
。。。 try:
。。。 x = next(g)
。。。 print(‘g:’, x)
。。。 except StopIteration as e:
。。。 print(‘Generator return value:’, e。value)
。。。 break
。。。
g: 1
g: 1
g: 2
g: 3
g: 5
Generator return value: done
要理解generator的工作原理,它是在
for
迴圈的過程中不斷計算出下一個元素,並在適當的條件結束
for
迴圈。對於函式改成的generator來說,遇到
return
語句或者執行到函式體最後一行語句,就是結束generator的指令,
for
迴圈隨之結束。
請注意區分普通函式和generator函式,普通函式呼叫直接返回結果,generator函式的“呼叫”實際返回一個generator物件。
迭代器(
Iterator
)
迭代是訪問集合元素的一種方式。迭代器是一個可以記住遍歷位置的物件。迭代器只能往前不能後退。
什麼是可迭代物件(Iterable)
集合資料型別,如 list 、tuple、dict、set、str 等
生成器和帶yield 的generator function
(凡是可作用於for迴圈的物件都是Iterable型別)
如何判斷物件可迭代?
from collections import Iterable
isinstance([ ], Iterable)
>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance(‘abc’, Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False
什麼是迭代器(Iterator)
迭代器是可以被next() 函式呼叫並不斷返回下一個值的物件稱為迭代器,
它們表示一個惰性計算的序列
。
因此生成器是迭代器的子類,但是注意集合型別的可迭代物件不是迭代器。
如何判斷是否為迭代器?
from collections import Iterator
isinstance((x for x in range(10)), Iterator)
這兩行程式碼是用來判斷是否為迭代器的,返回True或False。
>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance(‘abc’, Iterator)
False
集合資料型別如list、dict、str等是Iterable但不是Iterator,不過可以透過iter()函式獲得一個Iterator物件。
>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter(‘abc’), Iterator)
True
你可能會問,為什麼list、dict、str等資料型別不是Iterator?
這是因為Python的Iterator物件表示的是一個數據流,Iterator物件可以被next()函式呼叫並不斷返回下一個資料,直到沒有資料時丟擲StopIteration錯誤。可以把這個資料流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷透過next()函式實現按需計算下一個資料,所以Iterator的計算是惰性的,只有在需要返回下一個資料時它才會計算。
Iterator甚至可以表示一個無限大的資料流,例如全體自然數。而使用list是永遠不可能儲存全體自然數的。
Python的
for
迴圈本質上就是透過不斷呼叫
next()
函式實現的,舉個栗子
x = [1, 2, 3]
for i in x:
。。。
實際上執行時是
也就是先將可迭代物件轉化為
Iterator
,再去迭代。應該是處於對記憶體的節省考慮。因為迭代器只有在你呼叫
next()
才會實際計算下一個值。