bのやつが複数隊指定だとできません @eだけだと強制的に複数判定になってしまうのでbの方にlimit=1を追加してみてください

Aというやつが単体なら[name=a,limit=1]を、複数なら execute at @ e[name=a] run damage @e[limit=1,sort=nearest] と指定しましょう。

対象を指定するexecuteコマンドは、指定する数が複数選ばれているとエラーが発生します。 ※@ e[name=a]だと、ワールド全体のaさんを対象にしてしまいます 対策としましては [name=a,limit=1]や @ p[name=a] 等で、コマンドの対象を絞ることが大切です。

/execute as @e[name=A] at @e[name=B] run damage @e[name=B] 10(ここにダメージ量) 例で書いてみたけどどうかな？ 誰かに何かをさせたいときはexecuteコマンドを使うと良さそう もしeでエラーが出てるなら@eをすべて@pにすればプレイヤー限定だけど実行できるかも！