先來張圖:Iterator,Generator關係

生成器與迭代器

生成器(

Generator

我們建立列表的時候,受到記憶體限制,容量肯定是有限的,而且不可能全部給他一次枚舉出來。這裡可以使用列表生成式,但是它有一個致命的缺點就是定義即生成,非常的浪費空間和效率。

所以,如果列表元素可以按照某種演算法推算出來,那我們可以在迴圈的過程中不斷推算出後續的元素,這樣就不必建立完整的list,從而節省大量的空間。

在Python中,這種一邊迴圈一邊計算的機制,稱為生成器:generator。

要建立一個generator,一種方法很簡單,只要把一個列表生成式的[ ]改成( ),就建立了一個generator:

>>> [x*x for x in range(10)]

[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]

>>> (x * x for x in range(10))

at 0x0000000001EB3150>

我們怎麼打印出generator的每一個元素呢?

如果要一個一個打印出來,可以透過next( )函式獲得generator的下一個返回值:

>>> g = (x * x for x in range(5))

>>> next(g)

0

>>> next(g)

1

>>> next(g)

4

>>> next(g)

9

>>> next(g)

16

Traceback (most recent call last):

File “”, line 1, in

StopIteration

我們講過,generator儲存的是演算法,每次呼叫next(g),就計算出g的下一個元素的值,直到計算到最後一個元素,沒有更多的元素時,丟擲StopIteration的錯誤。

當然,上面這種不斷呼叫next(g)實在是太變態了,正確的方法是使用for迴圈,因為generator也是可迭代物件:

>>> g = (x * x for x in range(5))

>>> for n in g:

。。。 print(n)

。。。

0

1

4

9

16

所以,我們建立了一個generator後,基本上永遠不會呼叫next( ),而是透過for迴圈來迭代它,並且不需要關心StopIteration的錯誤。

還有一個方法是生成器函式,如果一個函式定義中包含yield關鍵字,那麼這個函式就不再是一個普通函式,而是一個generator。

舉個栗子:

斐波拉契數列(Fibonacci),除第一個和第二個數外,任意一個數都可由前兩個數相加得到:

1, 1, 2, 3, 5, 8, 13, 21, 34, 。。。

斐波拉契數列用列表生成式寫不出來,但是,用函式把它打印出來卻很容易:

def fib(max):

n, a, b = 0, 0, 1

while n < max:

print(b)

a, b = b, a + b

n = n + 1

return ‘done’

上面的函式可以輸出斐波那契數列的前n個數:

>>> fib(5)

1

1

2

3

5

‘done’

可以看出,fib函式實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出後續任意的元素,這種邏輯其實非常類似generator。

也就是說,上面的函式和generator僅一步之遙。要把fib函式變成generator,只需要把print(b)改為yield(b)就可以了:

def fib(max):

n, a, b = 0, 0, 1

while n < max:

yield b

a, b = b, a + b

n = n + 1

return ‘done’

>>> f = fib(max)

>>> f

需要注意的一點:

generator和函式的執行流程不一樣。函式是順序執行,遇到return語句或者最後一行函式語句就返回。而變成generator的函式,在每次呼叫next( )的時候執行,遇到yield語句返回,再次執行時從上次返回的yield語句處繼續執行。

舉個栗子:

def odd():

print(‘step 1’)

yield 1

print(‘step 2’)

yield 2

print(‘step 3’)

yield 3

呼叫該generator時,首先要生成一個generator物件,然後用next( )函式不斷獲得下一個返回值:

>>> o = odd()

>>> next(o)

step 1

1

>>> next(o)

step 2

2

>>> next(o)

step 3

3

>>> next(o)

Traceback (most recent call last):

File “”, line 1, in

StopIteration

可以看到,odd不是普通函式,而是generator,在執行過程中,遇到yield就中斷,下次又繼續執行。執行3次yield後,已經沒有yield可以執行了,所以,第4次呼叫next(o)就報錯。

回到fib的例子,我們在迴圈過程中不斷呼叫yield,就會不斷中斷。當然要給迴圈設定一個條件來退出迴圈,不然就會產生一個無限數列出來。

同樣的,把函式改成generator後,我們基本上從來不會用next( )來獲取下一個返回值,而是直接使用for迴圈來迭代:

>>> for n in fib(5):

。。。 print(n)

。。。

1

1

2

3

5

但是用

for

迴圈呼叫generator時,發現拿不到generator的

return

語句的返回值。如果想要拿到返回值,必須捕獲

StopIteration

錯誤,返回值包含在

StopIteration

value

中:

>>> g = fib(5)

>>> while True:

。。。 try:

。。。 x = next(g)

。。。 print(‘g:’, x)

。。。 except StopIteration as e:

。。。 print(‘Generator return value:’, e。value)

。。。 break

。。。

g: 1

g: 1

g: 2

g: 3

g: 5

Generator return value: done

要理解generator的工作原理,它是在

for

迴圈的過程中不斷計算出下一個元素,並在適當的條件結束

for

迴圈。對於函式改成的generator來說,遇到

return

語句或者執行到函式體最後一行語句,就是結束generator的指令,

for

迴圈隨之結束。

請注意區分普通函式和generator函式,普通函式呼叫直接返回結果,generator函式的“呼叫”實際返回一個generator物件。

迭代器(

Iterator

迭代是訪問集合元素的一種方式。迭代器是一個可以記住遍歷位置的物件。迭代器只能往前不能後退。

什麼是可迭代物件(Iterable)

集合資料型別,如 list 、tuple、dict、set、str 等

生成器和帶yield 的generator function

(凡是可作用於for迴圈的物件都是Iterable型別)

如何判斷物件可迭代?

from collections import Iterable

isinstance([ ], Iterable)

>>> from collections import Iterable

>>> isinstance([], Iterable)

True

>>> isinstance({}, Iterable)

True

>>> isinstance(‘abc’, Iterable)

True

>>> isinstance((x for x in range(10)), Iterable)

True

>>> isinstance(100, Iterable)

False

什麼是迭代器(Iterator)

迭代器是可以被next() 函式呼叫並不斷返回下一個值的物件稱為迭代器,

它們表示一個惰性計算的序列

因此生成器是迭代器的子類,但是注意集合型別的可迭代物件不是迭代器。

如何判斷是否為迭代器?

from collections import Iterator

isinstance((x for x in range(10)), Iterator)

這兩行程式碼是用來判斷是否為迭代器的,返回True或False。

>>> from collections import Iterator

>>> isinstance((x for x in range(10)), Iterator)

True

>>> isinstance([], Iterator)

False

>>> isinstance({}, Iterator)

False

>>> isinstance(‘abc’, Iterator)

False

集合資料型別如list、dict、str等是Iterable但不是Iterator,不過可以透過iter()函式獲得一個Iterator物件。

>>> isinstance(iter([]), Iterator)

True

>>> isinstance(iter(‘abc’), Iterator)

True

你可能會問,為什麼list、dict、str等資料型別不是Iterator?

這是因為Python的Iterator物件表示的是一個數據流,Iterator物件可以被next()函式呼叫並不斷返回下一個資料,直到沒有資料時丟擲StopIteration錯誤。可以把這個資料流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷透過next()函式實現按需計算下一個資料,所以Iterator的計算是惰性的,只有在需要返回下一個資料時它才會計算。

Iterator甚至可以表示一個無限大的資料流,例如全體自然數。而使用list是永遠不可能儲存全體自然數的。

Python的

for

迴圈本質上就是透過不斷呼叫

next()

函式實現的,舉個栗子

x = [1, 2, 3]

for i in x:

。。。

實際上執行時是

生成器與迭代器

也就是先將可迭代物件轉化為

Iterator

,再去迭代。應該是處於對記憶體的節省考慮。因為迭代器只有在你呼叫

next()

才會實際計算下一個值。