Tensorflow

init_value = tf.random.normal(shape=[256, 256])
tf.Variable(initial_value=init , dtype)

Keras

tf.keras.layers.Layer.add_weights 사용

class CustomDense(layers.Layer):
    def __init__(self, units=32):
        super(CustomDense, self).__init__()
        self.units = units

    def build(self, input_shape):
        self.w = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="random_normal",
            trainable=True,
        )
        self.b = self.add_weight(
            shape=(self.units,), initializer="random_normal", trainable=True
        )

    def call(self, inputs):
        return tf.matmul(inputs, self.w) + self.b

initial 설정 하는 법

1. 직적접으로 초기 변수를 설정 하는법

tf.initializers.glorotuniform()

2. tf.initializer 사용법

3. tf.keras.initializer 사용법