Articles of tensorflow

cálculo de perda em diferentes tamanhos de lote em keras

Eu sei que, em teoria, a perda de uma rede em um lote é apenas a sum de todas as perdas individuais. Isso é refletido no código Keras para calcular a perda total. Relevantemente: for i in range(len(self.outputs)): if i in skip_target_indices: continue y_true = self.targets[i] y_pred = self.outputs[i] weighted_loss = weighted_losses[i] sample_weight = sample_weights[i] […]

Noções básicas sobre model.summary Keras

Estou tentando entender o model.summary() em Keras. Eu tenho a seguinte neural network convolucional. Os valores da primeira Convolução são: conv2d_4 (Conv2D) (None, 148, 148, 16) 448 De onde vem o 148 e o 448? Código image_input = layers.Input(shape=(150, 150, 3)) x = layers.Conv2D(16, 3, activation=’relu’)(image_input) x = layers.MaxPooling2D(2)(x) x = layers.Conv2D(32, 3, activation=’relu’)(x) x […]

Uso de mistura de CPU e GPU em Keras

Eu estou construindo uma neural network em Keras, incluindo várias camadas de LSTM, Permute e Dense. Parece LSTM é hostil GPU. Então eu pesquisei e usei With tf.device(‘/cpu:0’): out = LSTM(cells)(inp) Mas com base no meu entendimento sobre with , é try…finally bloquear para garantir que o código de limpeza é executado. Eu não sei […]

Tensorflow não prevê resultados suficientemente precisos

Eu tenho algumas questões fundamentais sobre os algoritmos que escolhi no meu projeto Tensorflow. Eu alimentei cerca de 1 milhão de conjuntos de dados de treinamento e ainda não consegui obter os resultados de previsão precisos o suficiente. O código que estou usando é baseado em um exemplo antigo do Tensorflow ( https://github.com/tensorflow/tensorflow/blob/r1.3/tensorflow/examples/tutorials/estimators/abalone.py ). O […]

Ordem de sess.run () em Tensorflow

Gostaria de saber qual é a ordem de execução da lista de op em sess.run (ops_list, …). por exemplo: para um cenário de sorting típico: _, loss = sess.run([train_op, loss_op]) , se o train_op for executado primeiro, a perda será a perda após o backprop atual. Mas se a loss ocorrer primeiro, a perda é […]

Achatar um dataset no TensorFlow

Eu estou tentando converter um dataset em TensorFlow para ter vários tensores de valor único. O dataset atualmente é assim: [12 43 64 34 45 2 13 54] [34 65 34 67 87 12 23 43] [23 53 23 1 5] … Após a transformação, deve ficar assim: [12] [43] [64] [34] [45] [2] [13] […]

Como replace feed_dict ao usar um pipeline de input?

Suponha que você tenha uma rede que tenha trabalhado com feed_dict até o momento para injetar dados em um gráfico. A cada poucas épocas, avaliei o treinamento e a perda de teste alimentando um lote de um dos conjuntos de dados para o meu gráfico. Agora, por motivos de desempenho, decidi usar um pipeline de […]

Mesma function em Keras Loss e Metric fornece valores diferentes mesmo sem regularização

Estou construindo uma u-net customizada para um problema de segmentação semântica, mas estou vendo um comportamento estranho no modo como a loss e a metric são calculadas durante o treinamento, com diferenças muito significativas. Atualize na parte inferior para um exemplo mínimo reproduzível: Eu li este (1) , e este (2) , outro (3) e […]

Não é possível importar gráfico congelado após adicionar camadas ao modelo de Keras

Eu estou tentando carregar um modelo de Keras treinado do arquivo .h5, em seguida, envolva algumas camadas de TensorFlow em torno dele e salve como um ProtoBuf. O salvamento funciona muito bem, mas quando eu importo o gráfico def, recebo o erro: ValueError: A input 0 do nó batch_normalization_24_1 / cond / ReadVariableOp / Switch_1 […]

Aumentar os valores de saída de previsão sigmoide?

Eu criei um modelo Conv1D para sorting de texto. Ao usar softmax / sigmoid no último denso, produz o resultado como softmax => [0.98502016 0.0149798 ] sigmoid => [0.03902826 0.00037046] Eu só quero que o primeiro índice do resultado sigmóide seja pelo menos maior que 0.8 . Só quero que as multi-classs devam ter resultados […]