The config.trim_on_minimize setting (Windows only) does not reduce the amount of memory used, it just swaps memory from RAM to disk. This may make Firefox slow to "wake up". If config.trim_on_minimize is left set at the default value (false), the memory will be swapped to disk only if it is needed by another application. Therefore, for most purposes the default value is recommended.

The RAMBack extension, available for Firefox 3, allows the user to manually free memory, such as caches, that is usually used to increase performance. This gives the advantage of small cache sizes without having to always suffer the performance hit.
Übersetzung:

Die Einstellung config.trim_on_minimize (nur in Windows) reduziert den Speicherverbrauch nicht, sie lagert lediglich Speicher vom Arbeitsspeicher auf Festplatte aus. Das kann Firefox langsam beim Wiederherstellen machen. Wenn config.trim_on_minimize auf der Standard-Einstellung bleibt (false), dann wird der Speicher nur dann auf Festplatte ausgelagert, wenn er von anderen Anwendungen benötigt wird. Deshalb wird für die meisten Szenarien die Standard-Einstellung vorgeschlagen.

Die RAMBack-Erweiterung, verfügbar für Firefox 3, erlaubt dem Benutzer, Speicher manuell freizugeben, wie z.B. Caches die normalerweise zur Leistungssteigerung verwendet werden. Dies gibt einem den Vorteil von kleinen Cache-Größen, ohne immer vom Leistungs-Einbruch betroffen zu sein.

Quelle: mozillaZine

...

Interessant sind demnach auch die Einstellungen browser.cache.memory.enable und browser.cache.memory.capacity. Der Standard-Wert für letztere richtet sich nach der Größe des physikalischen Arbeitsspeichers. Im Link oben stehen die Standardwerte, wenn man Probleme mit dem Speicherverbrauch hat, kann man versuchen, die Einstellung auf einen niedrigeren Wert zu setzen. Dies kann zwar zu weniger Speicherverbrauch führen, aber es kann auch die Ladezeit bereits besuchter Webseiten erhöhen. Die gegenteilige Wirkung erzielt man wenn man den Wert erhöht.

Im Firefox kann man sich übrigens auch ein paar Speicher-Infos anzeigen lassen.

Dann gibt's noch die Einstellung browser.sessionhistory.max_total_viewers, die kontrolliert, wie viele Dateien in einem speziellen Cache (nicht dem normalen Cache) gehalten werden in einer Form die das schnelle Neu-Rendern der Webseite ermöglicht. Der Wert wird hier standardmäßig wieder anhand des physikalischen Arbeitsspeichers festgelegt. Übersicht siehe Link. Auswirkung ähnlich wie vorherige Einstellung: niedriger => weniger Speicher, aber langsamer, höher => mehr Speicher, aber schneller.

Das Feintuning dieser Einstellungen kann je nach System und Nutzerverhalten Verbesserungen an der Gesamt-Performance von Firefox bringen.

Was ich für mich persönlich auch noch sinnvoll finde ist den Anti-Phishing-Schutz auszuschalten und die zugehörigen Dateien löschen. Ich weiss grad nicht welche das sind, aber Firefox erstellt diese Dateien aus Daten von Google. Firefox-User berichten hin und wieder von Problemen mir diesen Dateien, die dann 200 MB oder so groß werden. Normal hat diese Anti-Phishing-Datenbank nur ca 30 MB glaube ich. Die Adresse jeder aufgerufenen Webseite wird gegen diese Datenbank geprüft. Beim Dateiformat handelt es sich um eine SQLite-Datenbank. Firefox führt regelmäßig eine Optimierung der Datenbank durch (im Prinzip eine Defragmentierung), die unter Umständen hängen kann, möglicherweise durch strukturelle Fehler in der Datenbank oder anderes.

Außerdem habe ich die Download-History deaktiviert. Bei großen Downloads benutze ich sowieso einen externen Download-Manager mit eigener History.

Die Chronik der besuchten Webseiten habe ich nur auf zwei Wochen begrenzt.