暗号解読のプログラムの質問です。

[masamasa]

法則に従っている、バイナリファイル（.dat）があり、それらを解いていくという問題なのですが
３つ法則があり、そのうち２つは解けたのですが。。。
この
メッセージのa番目の文字(先頭を１文字目)をbとした場合、
bをa回ローテートする。
aが偶数の場合は右へ、aが奇数の場合は左へローテートする。
という内容の解き方を教えて下さい。

また、datファイルを開いて、この作業をする方法も教えて下さい。

[みけCAT]

法則に従っている、バイナリファイル（.dat）があり、それらを解いていくという問題なのですが

課題の丸投げは禁止です。

この
メッセージのa番目の文字(先頭を１文字目)をbとした場合、
bをa回ローテートする。
aが偶数の場合は右へ、aが奇数の場合は左へローテートする。
という内容の解き方を教えて下さい。

「文字」「ローテート」の定義は何でしょうか？
a, bは具体的な数が与えられているのでしょうか？それとも探索しなければならないのでしょうか？
具体的な数が与えられるのならば、そのまま作業すればいいと思います。

また、datファイルを開いて、この作業をする方法も教えて下さい。

適当なバイナリエディタを用いればいいと思います。
私はWindowsではTSXBINを用いています。
Linuxでは、bviというソフトや、Emacsのhexl-find-fileが使えると思います。