metaclass - meetbill/redis-orm GitHub Wiki

两句话掌握 python 最难知识点——元类

1 一般实例的创建过程

一句话概括,metaclass 拦截了一般实例的创建流程,自己生成实例返回。

假设有个类 A。

class A():
    def __init__(self, name)
        self.name = name
        print('__init__() in  A')

a = A("meet")
  • 调用 A.__new__(),创建实例实体。如果,A 没有定义__new__(),会向父祖先类寻找;如果都没找到,会最后调用 type.new()。
  • 调用 A.__init__(),初始化实例。

a = A("meet") 中对 a 的初始化,等于 type(a).__init__("meet"),而不是 a.__init__("meet")

2 使用元类

千万不要被所谓“元类是 99% 的 python 程序员不会用到的特性”这类的说辞吓住。因为每个中国人,都是天生的元类使用者

学懂元类,你只需要知道两句话:

  • 道生一,一生二,二生三,三生万物
  • 我是谁?我从哪来里?我要到哪里去?

在 python 世界,拥有一个永恒的道,那就是“type”,请记在脑海中,type 就是道。如此广袤无垠的 python 生态圈,都是由 type 产生出来的。

2.1 道生一,一生二,二生三,三生万物

人类最早的妈是女娲,但在 python 里最早的妈名为 type,外号 metaclass,又称元类。type 的妈是谁,还是 type,也就是 type 自己生了自己,type 是万物本源。而 type 可以生下元类,也可以直接生下普通的类
  • 道 即是 type
  • 一 即是 metaclass(元类,或者叫类生成器)
  • 二 即是 class(类,或者叫实例生成器)
  • 三 即是 instance(实例)
  • 万物 即是 实例的各种属性与方法,我们平常使用 python 时,调用的就是它们。

道和一,是我们今天讨论的命题,而二、三、和万物,则是我们常常使用的类、实例、属性和方法,用 hello world 来举例:

2.1.1 二的起源

# 创建一个 Hello 类,拥有属性 say_hello ---- 二的起源
class Hello():
    def say_hello(self, name='world'):
        print('Hello, %s.' % name)

2.1.2 二生三

# 从 Hello 类创建一个实例 hello ---- 二生三
hello = Hello()

2.1.3 三生万物

# 使用 hello 调用方法 say_hello ---- 三生万物
hello.say_hello()
输出效果:

Hello, world.

这就是一个标准的“二生三,三生万物”过程。 从类到我们可以调用的方法,用了这两步。

那我们不由自主要问,类从何而来呢?回到代码的第一行。 class Hello 其实是一个函数的“语义化简称”,只为了让代码更浅显易懂,它的另一个写法是:

def fn(self, name='world'): # 假如我们有一个函数叫 fn
    print('Hello, %s.' % name)

Hello = type('Hello', (object,), dict(say_hello=fn)) # 通过 type 创建 Hello class ---- 神秘的“道”,可以点化一切,这次我们直接从“道”生出了“二” 这样的写法,就和之前的 Class Hello 写法作用完全相同,你可以试试创建实例并调用

# 从 Hello 类创建一个实例 hello ---- 二生三,完全一样
hello = Hello()

# 使用 hello 调用方法 say_hello ---- 三生万物,完全一样
hello.say_hello()

输出效果:

Hello, world. ---- 调用结果完全一样。 我们回头看一眼最精彩的地方,道直接生出了二:

Hello = type('Hello', (object,), dict(say_hello=fn))

这就是“道”,python 世界的起源,你可以为此而惊叹。 注意它的三个参数!暗合人类的三大永恒命题:我是谁,我从哪里来,我要到哪里去。

  • 第一个参数:我是谁。 在这里,我需要一个区分于其它一切的命名,以上的实例将我命名为“Hello”
  • 第二个参数:我从哪里来
    • 在这里,我需要知道从哪里来,也就是我的“父类”,以上实例中我的父类是“object”——python 中一种非常初级的类。
  • 第三个参数:我要到哪里去
    • 在这里,我们将需要调用的方法和属性包含到一个字典里,再作为参数传入。以上实例中,我们有一个 say_hello 方法包装进了字典中。 值得注意的是,三大永恒命题,是一切类,一切实例,甚至一切实例属性与方法都具有的。理所应当,它们的“创造者”,道和一,即 type 和元类,也具有这三个参数。但平常,类的三大永恒命题并不作为参数传入,而是以如下方式传入
class Hello(object){
# class 后声明“我是谁”
# 小括号内声明“我来自哪里”
# 中括号内声明“我要到哪里去”
    def say_hello(){

    }
}

造物主,可以直接创造单个的人,但这是一件苦役。造物主会先创造“人”这一物种,再批量创造具体的个人。并将三大永恒命题,一直传递下去。 “道”可以直接生出“二”,但它会先生出“一”,再批量地制造“二”。

type 可以直接生成类(class),但也可以先生成元类(metaclass),再使用元类批量定制类(class)。 元类——道生一,一生二

一般来说,元类均被命名后缀为 Metalass。想象一下,我们需要一个可以自动打招呼的元类,它里面的类方法呢,有时需要 say_Hello,有时需要 say_Hi,有时又需要 say_Sayolala,有时需要 say_Nihao。

如果每个内置的 say_xxx 都需要在类里面声明一次,那将是多么可怕的苦役! 不如使用元类来解决问题。

以下是创建一个专门“打招呼”用的元类代码:

class SayMetaClass(type):

    def __new__(cls, name, bases, attrs):
        attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
        return type.__new__(cls, name, bases, attrs)

记住两点: 1、元类是由“type”衍生而出,所以父类需要传入 type。【道生一,所以一必须包含道】

2、元类的操作都在 __new__中完成,它的第一个参数是将创建的类,之后的参数即是三大永恒命题:我是谁,我从哪里来,我将到哪里去。 它返回的对象也是三大永恒命题,接下来,这三个参数将一直陪伴我们。

在__new__中,我只进行了一个操作,就是

attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

它跟据类的名字,创建了一个类方法。比如我们由元类创建的类叫“Hello”,那创建时就自动有了一个叫“say_Hello”的类方法,然后又将类的名字“Hello”作为默认参数 saying,传到了方法里面。然后把 hello 方法调用时的传参作为 value 传进去,最终打印出来。

那么,一个元类是怎么从创建到调用的呢? 来!一起根据道生一、一生二、二生三、三生万物的准则,走进元类的生命周期吧!

2.1.4 道生一

# 道生一:传入 type
class SayMetaClass(type):

    # 传入三大永恒命题:类名称、父类、属性
    def __new__(cls, name, bases, attrs):
        # 创造“天赋”
        attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
        # 传承三大永恒命题:类名称、父类、属性
        return type.__new__(cls, name, bases, attrs)


2.1.5 一生二

# 一生二:创建类
class Hello(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
hello = Hello()

# 三生万物:调用实例方法
hello.say_Hello('world!')
输出为

Hello, world!

注意:通过元类创建的类,第一个参数是父类,第二个参数是 metaclass

普通人出生都不会说话,但有的人出生就会打招呼说“Hello”,“你好”,“sayolala”,这就是天赋的力量。它会给我们面向对象的编程省下无数的麻烦。

现在,保持元类不变,我们还可以继续创建 Sayolala, Nihao 类,如下:

# 一生二:创建类
class Sayolala(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
s = Sayolala()

# 三生万物:调用实例方法
s.say_Sayolala('japan!')
输出

Sayolala, japan!

也可以说中文

# 一生二:创建类
class Nihao(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
n = Nihao()

# 三生万物:调用实例方法
n.say_Nihao('中华!')
输出

Nihao, 中华!

再来一个小例子:

# 道生一
class ListMetaclass(type):
    def __new__(cls, name, bases, attrs):
        # 天赋:通过 add 方法将值绑定
        attrs['add'] = lambda self, value: self.append(value)
        return type.__new__(cls, name, bases, attrs)

# 一生二
class MyList(list, metaclass=ListMetaclass):
    pass

# 二生三
L = MyList()

# 三生万物
L.add(1)
现在我们打印一下 L

print(L)

>>> [1]
而普通的 list 没有 add() 方法

L2 = list()
L2.add(1)

>>>AttributeError: 'list' object has no attribute 'add'
太棒了!学到这里,你是不是已经体验到了造物主的乐趣?

python 世界的一切,尽在掌握。

年轻的造物主,请随我一起开创新世界。 我们选择两个领域,一个是 Django 的核心思想,“Object Relational Mapping”,即对象 - 关系映射,简称 ORM。

这是 Django 的一大难点,但学完了元类,一切变得清晰。你对 Django 的理解将更上一层楼!

另一个领域是爬虫领域(黑客领域),一个自动搜索网络上的可用代理,然后换着 IP 去突破别的人反爬虫限制。

这两项技能非常有用,也非常好玩!

2.2 挑战一:通过元类创建 ORM

准备工作,创建一个 Field 类

class Field(object):

    def __init__(self, name, column_type):
        self.name = name
        self.column_type = column_type

    def __str__(self):
        return '<%s:%s>' % (self.__class__.__name__, self.name)

它的作用是 在 Field 类实例化时将得到两个参数,name 和 column_type,它们将被绑定为 Field 的私有属性,如果要将 Field 转化为字符串时,将返回“Field:XXX” , XXX 是传入的 name 名称。

准备工作:创建 StringField 和 IntergerField

class StringField(Field):

    def __init__(self, name):
        super(StringField, self).__init__(name, 'varchar(100)')

class IntegerField(Field):

    def __init__(self, name):
        super(IntegerField, self).__init__(name, 'bigint')

它的作用是在 StringField,IntegerField 实例初始化时,时自动调用父类的初始化方式。

道生一

class ModelMetaclass(type):

    def __new__(cls, name, bases, attrs):
        if name=='Model':
            return type.__new__(cls, name, bases, attrs)
        print('Found model: %s' % name)
        mappings = dict()
        for k, v in attrs.items():
            if isinstance(v, Field):
                print('Found mapping: %s ==> %s' % (k, v))
                mappings[k] = v
        for k in mappings.keys():
            attrs.pop(k)
        attrs['__mappings__'] = mappings # 保存属性和列的映射关系
        attrs['__table__'] = name # 假设表名和类名一致
        return type.__new__(cls, name, bases, attrs)

它做了以下几件事

  • 创建一个新的字典 mapping
  • 将每一个类的属性,通过.items() 遍历其键值对。如果值是 Field 类,则打印键值,并将这一对键值绑定到 mapping 字典上。
  • 将刚刚传入值为 Field 类的属性删除。
  • 创建一个专门的__mappings__属性,保存字典 mapping。
  • 创建一个专门的__table__属性,保存传入的类的名称。 一生二
class Model(dict, metaclass=ModelMetaclass):

    def __init__(self, **kwarg):
        super(Model, self).__init__(**kwarg)

    def __getattr__(self, key):
        try:
            return self[key]
        except KeyError:
            raise AttributeError("'Model' object has no attribute '%s'" % key)

    def __setattr__(self, key, value):
        self[key] = value
    # 模拟建表操作
    def save(self):
        fields = []
        args = []
        for k, v in self.__mappings__.items():
            fields.append(v.name)
            args.append(getattr(self, k, None))
        sql = 'insert into %s (%s) values (%s)' % (self.__table__, ','.join(fields), ','.join([str(i) for i in args]))
        print('SQL: %s' % sql)
        print('ARGS: %s' % str(args))

如果从 Model 创建一个子类 User:

class User(Model):
    # 定义类的属性到列的映射:
    id = IntegerField('id')
    name = StringField('username')
    email = StringField('email')
    password = StringField('password')
这时
id= IntegerField('id') 就会自动解析为:

Model.__setattr__(self, 'id', IntegerField('id'))

因为 IntergerField('id') 是 Field 的子类的实例,自动触发元类的__new__,所以将 IntergerField('id') 存入__mappings__并删除这个键值对。

二生三、三生万物 当你初始化一个实例的时候并调用 save() 方法时候

u = User(id=12345, name='Batman', email='[email protected]', password='iamback')
u.save()

这时先完成了二生三的过程:

先调用 Model.setattr,将键值载入私有对象 然后调用元类的“天赋”,ModelMetaclass.new,将 Model 中的私有对象,只要是 Field 的实例,都自动存入 u.mappings。 接下来完成了三生万物的过程:

通过 u.save() 模拟数据库存入操作。这里我们仅仅做了一下遍历__mappings__操作,虚拟了 sql 并打印,在现实情况下是通过输入 sql 语句与数据库来运行。

输出结果为

Found model: User
Found mapping: name ==> <StringField:username>
Found mapping: password ==> <StringField:password>
Found mapping: id ==> <IntegerField:id>
Found mapping: email ==> <StringField:email>
SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,[email protected])
ARGS: ['Batman', 'iamback', 12345, '[email protected]']

年轻的造物主,你已经和我一起体验了由“道”演化“万物”的伟大历程,这也是 Django 中的 Model 版块核心原理。 接下来,请和我一起进行更好玩的爬虫实战(嗯,你现在已经是初级黑客了):网络代理的爬取吧!

年轻的造物主,创造世界的工具已经在你手上,请你将它的威力发挥到极致! 请记住挥动工具的口诀:

道生一,一生二,二生三,三生万物 我是谁,我来自哪里,我要到哪里去

3 构造方法__new__在普通类和元类中的差别

使用元类时,只有在定义类时才会调用__new__方法,而实例化类对象时不会调用__new__方法。

换言之,元类是构造类的方法。

code

class MetaClass(type):

    def __new__(cls, name, bases, attrs_dict):
        print('元类构造方法 cls ->', cls)
        print('元类构造方法 name ->', name)
        print('元类构造方法 bases ->', bases)
        print('元类构造方法 attrs_dict ->', attrs_dict)
        # 此处 type.__new__ == super().__new__
        return type.__new__(cls, name, bases, attrs_dict)


print('定义 Person Base 类')
PersonBase=MetaClass("PersonBase",(object, ),{})

print('定义 Person 类')
class Person(PersonBase):
    sex = 1

    def __init__(self, name, age):
        self.name = name
        self.age = age


print('实例化 Person')
p1 = Person('张三', 18)
p2 = Person(name='李四', age=21)

输出

定义 Person Base 类
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 cls ->', <class '__main__.MetaClass'>)
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 name ->', 'PersonBase')
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 bases ->', (<type 'object'>,))
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 attrs_dict ->', {})
定义 Person 类
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 cls ->', <class '__main__.MetaClass'>)
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 name ->', 'Person')
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 bases ->', (<class '__main__.PersonBase'>,))
('\xe5\x85\x83\xe7\xb1\xbb\xe6\x9e\x84\xe9\x80\xa0\xe6\x96\xb9\xe6\xb3\x95 attrs_dict ->', {'__module__': '__main__', '__init__': <function __init__ at 0x1028716e0>, 'sex': 1})
实例化 Person

在元类中也可以通过 name 参数来进行不同的操作,比如:

  • PersonBase 不需要额外操作
  • name 非 PersonBase 时进行附加一些属性
⚠️ **GitHub.com Fallback** ⚠️