LINEや自白の録音で慰謝料請求が可能な場合はあります。
ただ、それらの内容が問題で、肉体関係があったことが推認できるものであることが必要です。
LINEで肉体関係を示唆するようなやりとりがなされているか、自白の内容の具体性や自白を裏付ける事実や証拠があるか、といった点がポイントになるかと思います。

夫が素直に支払うことを認めてくれる場合はよいですが、相談者からの請求を受けて不貞を否定してきた場合は証拠の有無と内容がものをいうことになります。
証拠がないと記載されていますが、発覚、謝罪、話し合い、別居、それらの経緯の中で、メールやLINEなどでなにかかたちに残っているものはないのでしょうか。仮にあるとして証拠として十分かは実物をみてみないとわかりませんが、証拠として利用できる可能性はあると思います。夫が応じるなら不貞を認めたことを改めて書面等に残すことも考えられます。どうしても証拠が不足するなら、現在も関係が続いていないか、続いているなら新たな証拠が取れないかを模索していくしかないでしょう。

写真等から不貞が推認できるか、不貞相手が当該人物と特定できるかによります。相手が認めれば、認めた内容を書面等に残せば証拠となりますが、否定されればそれまでなので、まずは現状手元にあるもので立証可能かを検討すべきかと思います。
写真等お手持ちの証拠を実際に見てみないと何ともいえませんので、現物を持参されたうえで直接弁護士に相談してみるべきかと思います。
お辛い中でどうすべきか考えるのは、中々大変なことかと思いますが、上記ご検討されることをおすすめします。

いわゆるダブル不倫で離婚しない場合、互いに慰謝料請求をしあってもお互い夫婦の財布を行き来するだけなら意味が無いと考え、不貞相手への請求はお互いしないで終わる、あるいは些少の差額を一方が他方に支払い終わる、ということも、ままあります。
こういった面を捉えて泣き寝入りと考えることも確かにできるのかもしれません。ただ、離婚せず夫婦関係を維持使用と考えるなら、現実面、いたしかたないところがあります。
こういったお悩みで結局一番裏切り行為をして傷つけたのは誰かということをつきつめていくと、それは配偶者（弟さんの場合は弟さんの妻）と考えざるを得ません。現在の実務は不貞をした配偶者、不貞相手双方に慰謝料請求できることにはなっていますし、双方に背請求できるメリットもあるため、この考え方を直ちに不相当とまでは考えませんが、ダブル不倫の場合はこの考え方の問題が上記のように顕在化してきてしまい、当事者としては、この根本的な矛盾に直面せざるをえません。
つまるところは、一番の責任者である自分の配偶者との関係をどうするかというところを中心に据えるべき話であり、そこを度外視して経済的な利益・不利益の点に注視し、損か得かで語ることは難しい問題だと考えます。
以上は私見であり、異なる見解の弁護士もあることかと思いますが、考え方を整理する上でご参考になればと思い、回答いたします。

順番としては証拠の確保を先行すべきです。
お手持ちのものは、証拠として一定の意味はあるかもしれませんが、何か他の事情や証拠とあわさってでないと証拠としては弱いことが多いと思います。

親権については不貞の話しとは別で考慮されることになります。お子さんの年齢等にもよりますが、一番重要なのはお子さんの養育を中心に担ってきたのが父母のどちらなのかです。お子さんがある程度の年齢で同程度に育児してきたといった場合は、これまでの監護状況に加え、離婚後の監護予定（住む場所、教育、死後の兼ね合い、監護補助者の有無など）をどれだけ構築しておけるかがポイントになる場合もあります。

いずれの問題も具体的な事情にもよるところ大ですので、まずは面談相談を受け、今後の動き方を決めるところから始めるのがよろしいかと思います。

美人局かどうかは正直何ともわかりません。
真実相手方夫婦双方の同意があれば、性交渉を持っても不貞慰謝料は請求できないとはなるのでしょうが、仮に請求された場合、そもそもその男性が本当に当該女性の夫なのか、どのように確認したのか、その話しを信じたことに過失はなかったのかといったことも問われることになるでしょう。
また、子どもができた場合、相手夫婦が相談者には何も請求しないと言っていても、例えば認知や養育費は子ども自身の権利であり親が勝手に放棄することはできないというのが固まった理解ですので、相談者が子への責任の一切を免れられるかは相手夫婦がどう言っているかで決まるわけではないということを理解しておく必要があります。
いずれにせよ、字義どおり信じてよいかは疑わしい話しですので、やめておいた方がよいですよ、としかいいようがありません。

確かに離婚時の慰謝料と不貞慰謝料とは異なるとされています。
離婚慰謝料は離婚に至ることにより受けた精神的苦痛に対する慰謝料ということですが、夫が離婚原因を作ったために離婚に至ったということが必要であり、離婚したから直ちに慰謝料が発生するわけではありません。そうすると、夫が不貞していたであるとか民法770条各号に該当する事情のあったことが結局は必要となり、そもそもそうした事実があるのか、夫がその事実を否定した場合に立証できるだけの証拠があるのか、が問題となります。
不貞の立証が困難なのであれば、他の離婚原因があったのかということになりますが、これは離婚に至った経緯次第なのでご質問の限りではお答えのしようがありません。そうした経緯も踏まえた上での相談で弁護士が請求は困難だと回答したのであれば難しいのかもしれませんし、不貞に絞った質問しかしていないならその他の事情で夫の有責性を基礎づけられるかを改めて相談することを検討してみるのも良いでしょう。