1.2 Preparation for on-premises machine installation
Installation (Pre-)Requirements:
To install AI Labs FV on-premises machine, please reserve the following:
- IP address (in hospital private network)
- SSL certificate (FQDN under institution domain)
- Firewall open for Aggregator IP (IP: 202.39.156.139, or other assigned IP) and HTTPS port (port: 443)
- VPN connection for software and security upgrade (optional)
The needs for placing FV machine inside server rack are:
- 4U space
- 1200W power supply
- 110V or 220V power source (auto-swap), with standard Taiwan power jack 3-pin interface
- RJ45 ethernet cable (1000Mbps Gigabit NIC connection)
The considerations of server space:
- Security: Restricted access could help secure the device. All management could be operated remotely.
- Stable Power Supply: UPS (Uninterruptible Power Supply) and voltage stabilizer are suggested to make sure the reliability of the device.
- Cooling: Like other servers in the server room, cooling system is required.
- Network Stability: A stable network environment could ensure the Federated Learning progress success.
There is no extra management needed for FL machine. The device could be managed like other servers inside the server room.
(Below are in Chinese language)
安裝流程敘述
- 固定主機 - 確定有 4U 空間。接著視醫院需求決定 安裝滑軌置入機架 或 簡易放置桌上/桌下 等。
- 電源確認 : 機器插上電源 (110V or 220V 3pin,建議使用 220V 電源) ,確認電源沒有問題,機器可以開啟。
- 醫院內網設定 (需醫院提供) :
- IP Address (基本上一組即可)
- Gateway Address
- Network Mask
- DNS Address
(PS: 不須外對外的 public IP) - 院內區域網路 SSL 簽章 (需醫院提供) :
依照醫院提供的次級網域 (一般為 ailabs.xxhospital....) 安裝相對應的 cert files。 - 醫院內對外防火牆開通 (需醫院提供):
內網連外網方式設定 - 開通指定目的地防火牆 (聯合學習 Aggregator - 權重傳輸聚合處):
- Domain: TCTC.Taifa.org (或 KFC.Taifa.org)
- IP: 202.39.156.141
- Port: 443 (HTTPS)Note:防火牆設定只須設定對外,不需要開通對內通道。 - 開啟服務,並登入系統頁面 進行測試: - Training/Validation : 確認 主機可連到 Aggregator。選擇 Demo training plan 選擇已 confirmed 之盟友加入。
- 確認使用者可正常使用 : 至使用者 PC 使用 Google Chrome 進入服務登入頁面,確認使用無誤並進行簡易教學。
主機安裝處考量點 :
- 安全 : 原則上安裝完畢後,Harmonia 主機不需要任何的定期實體維護操作,全部透過遠端管理即可。所以安裝地點應避免不必要的人接觸到設備,以免誤觸設備或植入不預期的軟體等造成資安問題。
- 電壓穩定 : 應該有穩流、穩壓器,以及不斷電系統,以保障電腦設備的可靠性。
- 散熱 : 因AI運算之故,安裝的顯示卡需要有良好的散熱環境以免機器過熱。
- 網路穩定 : 醫院進行 AI模型訓練的相關人員原則上透過網路進行相關操作; Harmonia 已安裝好的主機也是透過網路進行聯合學習。所以穩定的網路是此專案不可或缺的重要因素之一。 若安裝處網路可以維持暢通, AILabs 工程師即可以透過遠端連線進行需要的維護,不需要任何在地人員進行近距離處理。
原則上,一般資訊室所擁有的機房都可以提供以上所需要的環境。建議可以直接在所餘的機櫃當中,保留 4U 的空間即可。AI Labs 會派專業的工程師與資訊室專家合作,將主機安裝完畢後,即轉交予貴司資訊室視為一般機房主機,和其他機房機器共同監管即可。