ペナルティとは、Googleガイドラインに違反した手法で検索結果の上位に表示させようとした場合、ユーザをだますようなことをした場合にGoogleから科せられます。

ペナルティを受けると、検索結果に全くサイトがヒットしなくなる場合があります。

ペナルティを受けるケース

・全く同じページが存在する（又は非常に類似したページが存在）
・複数ページで全く同じタイトルを利用している（又は非常に類似したタイトルを利用）
・キーワードの詰め込みすぎと思われる内部対策を実施している
・大量のリンク（同一IP、同一ドメインのリンク）を設定している
・ただの誘導ページである

ペナルティを受けてしまったのか、ただ単純にキーワード順位が低下したのかを確認する方法は複数あります。

ペナルティを受けたかを確認するには・・・

▼Googleからのメッセージを受け取る
Googleウェブマスターツールにサイトを登録している場合、そのサイトがペナルティを受けるとGoogleウェブマスターツールにメッセージが来る場合があります。
メッセージが着たら、その内容をよく読み、サイトの改修を実施してください。

▼Googleの検索窓に「site:URL」と入力する
例）site:textlinks.jp　と入力。
通常検索結果の一番上に、TOPページが表示されます。
一概には言えませんが、TOPページに表示されない場合何らかの問題が発生している可能性があります。

その他、タイトルタグで検索してヒットするか、本文中から抜粋した文章（長文）で検索してヒットするかなどでも確認することができます。

ペナルティを受けている場合は、その問題が解決しない限り、どんなSEO対策を行っても状況が改善されないです。
回避できる方法は、問題が解決したことをGoogleが認めるか、アルゴリズムが大幅に変更になるかです。

ペナルティの場合は、仮説⇒変更⇒検証を繰り返し実施する必要があります。
根気良く作業を実施してください。