スキップしてメイン コンテンツに移動

ConnectX-4 VPIを使い ipoib + 間接的 iPXE にて Debian 12 を iSCSI root で セキュアブート

ファームウェアを 2025/03 現在で最新のものにアップデートした ConnectX-4 VPI は、Flexboot が UEFI に対応しているとのこですが、ConnectX-3 VPI が BIOS モードで立ち上がるような CUI は 立ち上がりませんでした。調べた所、筆者の環境だけのようでした。その代わり、サーバ上で Networking stack を Enabled にして iPXEではなくPXEブートする方法では確かにPXEパケットはやり取りできています。(参考までにCX3ではブートメニューに現れませんでした。)
しかし、iPXEではなくPXE ブートでは iSCSI 接続を iBFT として登録する方法はありません。そこで、PXEから bootfileを signed ipxe.efi にしたのですが、起動はするものの上手く menu.ipxe (/srv/tftp/Altiris/iPXE/GetPxeScript.aspx)を取得することができませんでした。どうやらこの signed ipxe.efi が ipoib には完全には対応していなさそうです。そこで、補助的にオンボードの ethernet を enabled にして、一旦 signed ipxe.efiを起動させてから ipoib インターフェースを ipxe のコマンドで dhcp にて up 、オンボードのethernet を ifclose 、つづいて sanhook で iscsi root イメージを ibft に登録してからブートしたところ、今度は上手く行きました。表題に間接的といれたのはこのためです。
基本的には iPXE経由でセキュアブートする方法とあまり違いはありませんので、異なる所だけですが具体的には以下のようになります。
# /etc/dhcp/dhcpd.conf
--snip
group ind40 {
  option domain-name "ind40.example.com";
  host sv112ind {
    hardware ethernet AA:BB:CC:DD:01:12;
  }
  host sv113ind {
    hardware ethernet AA:BB:CC:DD:01:13;
  }
}

subnet 10.1.40.0 netmask 255.255.255.0 {
  option domain-name-servers 10.1.1.64;
  option domain-name "example.com";
  option routers 10.1.40.50;
  option broadcast-address 10.1.40.255;
  next-server 10.1.40.50;
  if substring(vendorclass, 0, 9)="PXEClient" {
    if pxetype=00:06 or pxetype=00:07 {
        filename "ipxe-signed/ipxe.efi";
#        filename "ipxe-signed/snponly.efi";
    } else {
        filename "menu.ipxe";
    }
  }
  pool {
    range 10.1.40.200 10.1.40.250;
  }
}

grou ib40 {
  option domain-name "ib40.example.com";

  host sv112 {
    option host-name "sv112";
    hardware ethernet 11:22:33:44:01:12;
    option dhcp-client-identifier=ff:00:00:00:00:00:02:00:00:02:c9:00:50:6b:11:22:33:44:01:12;
    fixed-address 10.1.40.112;
  }

  host sv113 {
    option host-name "sv113";
    hardware ethernet 11:22:33:44:01:13;
    option dhcp-client-identifier=ff:00:00:00:00:00:02:00:00:02:c9:00:50:6b:11:22:33:44:01:13;
    fixed-address 10.1.40.113;
  }
}

# /srv/tftp/Altiris/iPXE/GetPxeScript.aspx
--snip
item ib40ind-test               indirect ib40 test
--snip

:ib40ind-test
iseq ${domain} ind40.example.com && goto ib40 || goto shell

:ib40
ifclose net0
dhcp net2
set initiator-iqn iqn.1868-01.com.example:${hostname}
set root-path iscsi:10.1.40.50::::iqn.1868-01.com.example:i50.deb12-amd64-02
sanboot --drive 0x80 ${root-path}
goto start

--snip

:shell
echo Type 'exit' to get back to the menu
shell
set menu-timeout 0
goto start


#/etc/
今回の前提としてはオンボードのnicが2ポートありそちらが ipoib インターフェースより先に起動するという点です。もしオンボードのnicが一枚なら、上述の dhcp net2 は dhcp net1 になります。( iPXE 上のデバイス名は iPXE のシェルで ifstat とすれば確認できます。)
参考までに mstflint を使った ファームウェア(cx4-firmware.binが対象の場合)の更新は以下の通りです。
mstflint -d 18:00.0 -i cx4-firmware.bin -allow_psid_change burn
# 再起動後、mstconfig にて UEFI を有効にする
mstconfig -d 18:00.0 set EXP_ROM_UEFI_x86_ENABLE=True UEFI_HII_EN=True
# 今一度再起動して、boot device に ConnectX-4 が含まれていることを BIOS で確認
また、flexboot を更新する場合は、以下のようになります。
# 確認
mstflint -d 18:00.0 q
--snip
Rom Info:              type=UEFI version=14.21.17 cpu=AMD64,AARCH64
                       type=PXE version=3.6.102 cpu=AMD64
--snip

# バックアップ
mstflint -d 18:00.0 rrom CX4-14.21.17.efirom

# ファイルの取得、解凍
wget https://www.mellanox.com/downloads/Drivers/FlexBoot-3.6.204_4115_14_22_14_RELEASE_X64_AARCH64_0x1013.zip
unzip FlexBoot-3.6.204_4115_14_22_14_RELEASE_X64_AARCH64_0x1013.zip

# 更新
mstflint -d 18:00.0 --allow_rom_change brom FlexBoot-3.6.204_4115_14_22_14_RELEASE_X64_AARCH64_0x1013.efirom
以前にも書いたのですが、iPXEから公式の signed ipxe.efi がでれば良いですね。
今回は以上です。それでは。

コメント

このブログの人気の投稿

wsdd を使ってSamba サーバをネットワークに表示

Windows 10のアップデートで、セキュリティー対応のため、smbv1がデフォルトではインストールされなくなり、Samba serverがエクスプローラーのネットワークに表示されなくなってしまいました。そこで、いくつか方法を調べたのですが、linuxでwsdの実装がないか探したところ、 https://github.com/christgau/wsdd が、見つかりましたので、さっそくインストールしてみました。まだパッケージにはないようですが、インストール自身は簡単です。wsdd自体は以下のように取得し、linkを張っておきます。 cd /usr/local/bin/ sudo wget https://raw.githubusercontent.com/christgau/wsdd/master/src/wsdd.py sudo chmod 755 wsdd.py sudo ln -sf wsdd.py wsdd こちらのsambaサーバはDebianなので、/etc/systemd/system/wsdd.serviceは以下のようにしました。 [Unit] Description=Web Services Dynamic Discovery host daemon Requires=network-online.target After=network.target network-online.target multi-user.target [Service] Type=simple ExecStart=/usr/local/bin/wsdd -d MYDOMAIN [Install] WantedBy=multi-user.target wsdd -d MYDOMAINのところを、環境にあわせて書き換えてください。 次に、systemdに登録・起動テストを行います。 systemctl enable wsdd systemctl start wsdd 起動に成功すると、エクスプローラーのネットワークに表示されます。  なおこのwsddはpython3が必要です。一度試してみてください。SMBv1/CIFSを停止していても、大丈夫です。 cで書かれたほかのwsddの実装もあるようなので、いずれパッケージになるかも...

Windows デバイス暗号化 のサポートで "許可されていない dma 対応バス/デバイスが検出されました"の対処

Windows でセキュリティー関係を見ているのですが、とあるPCでmsinfo32で確認すると"デバイス暗号化のサポート"で"許可されていない dma 対応バス/デバイスが検出されました"と出ていました。このPCの場合、それ以外はOK(なにも表示されない)だったのですが、ネットでしらべるとMSのドキュメントではハードウェアベンダーに問い合わせるなどと敷居が高く具体的にどこが引っかかっているかわかりません。そこでほかに方法はないかとしらべやってみたところ、"前提条件をみたしています"まで持って行けたので、本稿を挙げた次第です。 具体的には、以下のようにします。 1-a. 許可するDMA対応バス・デバイスを指定するレジストリの所有権と書き込み設定をおこなう。 以下のレジストリキーの所有者を自分自身(管理ユーザ)のものにし、フルコントロール権を付与する。 HKLM\SYSTEM\CurrentControlSet\Control\DmaSecurity\AllowedBuses もしくは 1-b. MicrosoftよりPsExecをダウンロードし、System権限でRegeditを立ち上げ編集する。 Microsoftより、https://docs.microsoft.com/en-us/sysinternals/downloads/psexec にある こちら をダウンロードし、解凍する。解凍すると、x64の場合、PsExec64.exeがあるので、管理者権限で以下を実行し、システム権限でregeditを立ち上げることが出来るようになる。 cd Downloads\PSTools .\PsExec64.exe -sid C:\Windows\regedit.exe 2-a. パワーシェルスクリプトを実行し、PnPデバイスのうちインスタンスがPCIで始まるものを"AllowedBuses"に追加する。 以下のパワーシェルスクリプトを作成する。たとえばDocuments\allow-dma-bus-device.ps1として作成する。( こちらの記事のものを使用させていただきました: Thank you! ) $tmpfile = "$($env:T...

フレッツ光クロス:MAP-E ROUTER by Debian Box (iptables)

フレッツ光クロスがようやく開通したので、Debianにてrouterを構成し接続してみました。なお、プロバイダーを選ぶにあたっては、IPoE方式がそれぞれ異なるため検討したところ、IPoEでは、MAP-Eでもv6plusとocnバーチャルコネクトがあり、前者がポート数240なのに対し、後者は約4倍のポート数が使えるようなネットの情報をみて、OCNバーチャルコネクトを選択しました。(プロバイダーとしてはぷららです。なおDS-LiteはCE側でのNATではないので今回は見送りました。)そこで、OCN バーチャルコネクトをDebian(iptables)で実現するとどうなるかと思い、ネットの情報を頼りにしつつ、設定した次第です。 実際に試した結果、とりあえず通信できていますが、MAP-Eは本来マッピングルールをマップサーバから取得するはずなので、今回のやり方が正解とはいえませんし、仕様変更されると通信できなくなる可能性があります。あくまでも参考程度ですが、本稿をUPしてみました。 2023/03/16追記: こちら にゲームコンソールNAT越え(Nintendo Switch ナットタイプ A判定)対応版を投稿しました。 2023/03/28追記:※1の記述および3行無効化によりNAT越え(Nintendo Switch ナットタイプ B判定)できるようになりました。 構成は以下の通りです。 ルーターがDebianで回線がOCNバーチャルコネクトであること以外はなにも特別なところはない構成です。 さて、いきなり設定ですが、まず、割り当てられたプレフィックスを確認します。 確認は、 dhclient -6 -d -P enp2s0 とします。出力の中に 前略 RCV: | | X-- IAPREFIX 2400:4050:5c71:af00::/56 後略 このようにプレフィックスが表示されるので、その確認したプレフィックスを書き留めておきます。これを こちらで 入力します。すると、 CE: 2400:4050:5c71:af00:99:f171:c600:2f00 IPv4 アドレス: 153.241.113.198 ポート番号:(1776-1791 2800-2815 3824-3839) 4848-4863 5872-5887 6896-...