Node count: 9
Node 0: Placeholder 'inputs/x-input'
Node 1: Const 'model/W'
Node 2: Const 'model/b'
Node 3: MatMul 'model/MatMul'
Node 4: Add 'model/add'
Node 5: Sigmoid 'model/y_pred'
Node 6: Const 'inference/Greater/y'
Node 7: Greater 'inference/Greater'
Node 8: Cast 'inference/inference'

Probability spoken by a male: 0.970405%
Prediction: male

Probability spoken by a male: 0.005632%
Prediction: female

       

  訓練後，我們需要將學習到的參數w和b保存成Metal能夠讀取的格式。其實隻要以二進製格式保存為浮點數列表就可以了。

下麵的Python腳本export_weights.py和之前載入圖定義和檢查點的test.py很相似，如下：

    W.eval().tofile("W.bin")
    b.eval().tofile("b.bin")

W.eval()計算w目前的值，並以返回Numpy數組（和sess.run(W)作用是一樣的）。然後使用tofile()將Numpy數組保存為二進製文件。

你可以在源碼的VoiceMetal文件夾下發現Xcode項目，使用Swift編寫的。

y_pred = sigmoid((W * x) + b)

這和神經網絡中全連接層進行的計算相同，為了實現Metal版分類器，我們隻需要使用MPSCNN Fully Connected 層。首先將W.bin和b.bin載入到Data對象：

let W_url = Bundle.main.url(forResource: "W", withExtension: "bin")
let b_url = Bundle.main.url(forResource: "b", withExtension: "bin")
let W_data = try! Data(contentsOf: W_url!)
let b_data = try! Data(contentsOf: b_url!)

let sigmoid = MPSCNNNeuronSigmoid(device: device)

let layerDesc = MPSCNNConvolutionDescriptor(
                   kernelWidth: 1, kernelHeight: 1, 
                   inputFeatureChannels: 20, outputFeatureChannels: 1, 
                   neuronFilter: sigmoid)

W_data.withUnsafeBytes { W in
  b_data.withUnsafeBytes { b in
    layer = MPSCNNFullyConnected(device: device, 
               convolutionDescriptor: layerDesc, 
               kernelWeights: W, biasTerms: b, flags: .none)
  }
}

因為輸入是20個數字，我設計了作用於一個1x1的有20個輸入信道（input channels）的全連接層。預測結果y_pred是一個數字，所以全連接層隻有一個輸出信道。輸入和輸出數據放在MPSImage 中：

let inputImgDesc = MPSImageDescriptor(channelFormat: .float16, 
                       width: 1, height: 1, featureChannels: 20)
let outputImgDesc = MPSImageDescriptor(channelFormat: .float16, 
                       width: 1, height: 1, featureChannels: 1)

inputImage = MPSImage(device: device, imageDescriptor: inputImgDesc)
outputImage = MPSImage(device: device, imageDescriptor: outputImgDesc)

和app上的TensorFlow一樣，這裏也有一個predict 方法，這個方法以組成一條樣本的20個浮點數作為輸入。下麵是完整的方法：

func predict(example: [Float]) {
  convert(example: example, to: inputImage)

  let commandBuffer = commandQueue.makeCommandBuffer()
  layer.encode(commandBuffer: commandBuffer, sourceImage: inputImage, 
               destinationImage: outputImage)
  commandBuffer.commit()
  commandBuffer.waitUntilCompleted()

  let y_pred = outputImage.toFloatArray()
  print("Probability spoken by a male: \(y_pred[0])%")

  if y_pred[0] > 0.5 {
    print("Prediction: male")
  } else {
    print("Prediction: female")
  }
}

和運行session的結果是一樣的。convert(example:to:)和toFloatArray()方法加載和輸出MPSImage 對象的輔助函數。

你需要在設備上運行這個app,因為模擬器不支持Metal。輸出結果如下：

Probability spoken by a male: 0.970215%
Prediction: male

Probability spoken by a male: 0.00568771%
Prediction: female

注意到這些概率和用TensorFlow預測到的概率不完全相同，這是因為Metal使用16位浮點數，但結果相當接近。

本文所用的數據集是 Kory Becker製作的，在 Kaggle.com下載，也參考了Kory的博文和源碼。其他人也寫過IOS上TensorFlow相關的一些東西。從這些文章和代碼中我受益匪淺：

1.Getting Started with Deep MNIST and TensorFlow on iOS by Matt Rajca

2.Speeding Up TensorFlow with Metal Performance Shaders also by Matt Rajca

3.tensorflow-cocoa-example by Aaron Hillegass

4.TensorFlow iOS Examples in the TensorFlow repository

以上為譯文

本文由北郵@愛可可-愛生活 老師推薦，阿裏雲雲棲社區組織翻譯。

文章原標題《Getting started with TensorFlow on iOS》，由Matthijs Hollemans發布。

譯者：李烽 ；審校：

文章為簡譯，更為詳細的內容，請查看原文。中文譯製文檔見附件。