Я использую эластичный поиск для индексации своих документов.
Можно ли поручить ему возвращать только определенные поля вместо всего документа json, который он сохранил?
Я использую эластичный поиск для индексации своих документов.
Можно ли поручить ему возвращать только определенные поля вместо всего документа json, который он сохранил?
Ответы:
Ага! Используйте исходный фильтр . Если вы ищете с помощью JSON, это будет выглядеть примерно так:
{
"_source": ["user", "message", ...],
"query": ...,
"size": ...
}
В ES 2.4 и более ранних версиях вы также можете использовать опцию fields в API поиска :
{
"fields": ["user", "message", ...],
"query": ...,
"size": ...
}
Это устарело в ES 5+. И исходные фильтры в любом случае более мощные!
Мне показались get api
полезными документы для этого, особенно два раздела, Фильтрация источников и Поля : https://www.elastic.co/guide/en/elasticsearch/reference/7.3/docs-get.html#get-source- фильтрация
Они заявляют о фильтрации источника:
Если вам нужно только одно или два поля из полного _source, вы можете использовать параметры _source_include & _source_exclude, чтобы включить или отфильтровать нужные вам части. Это может быть особенно полезно для больших документов, где частичный поиск может сэкономить на сетевых издержках
Который отлично подходил моему случаю использования. В итоге я просто отфильтровал источник (используя сокращение):
{
"_source": ["field_x", ..., "field_y"],
"query": {
...
}
}
К вашему сведению, они указывают в документах о параметре fields :
Операция get позволяет указать набор сохраненных полей, которые будут возвращены путем передачи параметра fields.
Кажется, он обслуживает поля, которые были специально сохранены, где он помещает каждое поле в массив. Если указанные поля не были сохранены, они будут извлекать каждое из источника _source, что может привести к «медленному» поиску. У меня также были проблемы, пытаясь заставить его вернуть поля типа объекта.
Итак, в итоге, у вас есть два варианта, либо через фильтрацию источника, либо [сохраненные] поля.
For the ES versions 5.X and above you can a ES query something like this
GET /.../...
{
"_source": {
"includes": [ "FIELD1", "FIELD2", "FIELD3" ... " ]
},
.
.
.
.
}
В Elasticsearch 5.x вышеупомянутый подход устарел. Вы можете использовать подход _source, но в определенных ситуациях может иметь смысл сохранить поле. Например, если у вас есть документ с заголовком, датой и очень большим полем содержимого, вы можете извлечь только заголовок и дату без необходимости извлекать эти поля из большого поля _source:
В этом случае вы бы использовали:
{
"size": $INT_NUM_OF_DOCS_TO_RETURN,
"stored_fields":[
"doc.headline",
"doc.text",
"doc.timestamp_utc"
],
"query":{
"bool":{
"must":{
"term":{
"doc.topic":"news_on_things"
}
},
"filter":{
"range":{
"doc.timestamp_utc":{
"gte":1451606400000,
"lt":1483228800000,
"format":"epoch_millis"
}
}
}
}
},
"aggs":{
}
}
См. Документацию о том, как проиндексировать сохраненные поля. Всегда рад за Upvote!
Все REST API принимают параметр filter_path, который можно использовать для уменьшения ответа, возвращаемого эластичным поиском. Этот параметр принимает список фильтров, разделенных запятыми, с точечной нотацией.
Тут другое решение, теперь с помощью спички выражения
Фильтрация источников
Позволяет контролировать, как поле _source возвращается при каждом попадании.
Протестировано с Elastiscsearch версии 5.5
Ключевое слово «включает» определяет специфические поля.
GET /my_indice/my_indice_type/_search
{
"_source": {
"includes": [ "my_especific_field"]
},
"query": {
"bool": {
"must": [
{"match": {
"_id": "%my_id_here_without_percent%"
}
}
]
}
}
}
Запрос REST API GET может быть выполнен с параметром _source.
Пример запроса
http://localhost:9200/opt_pr/_search?q=SYMBOL:ITC AND OPTION_TYPE=CE AND TRADE_DATE=2017-02-10 AND EXPIRY_DATE=2017-02-23&_source=STRIKE_PRICE
отклик
{
"took": 59,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 104,
"max_score": 7.3908954,
"hits": [
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLc",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 160
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLh",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 185
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLi",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 190
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLm",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 210
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLp",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 225
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLr",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 235
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLw",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 260
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uL5",
"_score": 7.3908954,
"_source": {
"STRIKE_PRICE": 305
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLd",
"_score": 7.381078,
"_source": {
"STRIKE_PRICE": 165
}
},
{
"_index": "opt_pr",
"_type": "opt_pr_r",
"_id": "AV3K4QTgNHl15Mv30uLy",
"_score": 7.381078,
"_source": {
"STRIKE_PRICE": 270
}
}
]
}
}
Да, с помощью исходного фильтра вы можете сделать это, вот документация по исходной фильтрации
Пример запроса
POST index_name/_search
{
"_source":["field1","filed2".....]
}
Выход будет
{
"took": 57,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"skipped": 0,
"failed": 0
},
"hits": {
"total": 1,
"max_score": 1,
"hits": [
{
"_index": "index_name",
"_type": "index1",
"_id": "1",
"_score": 1,
"_source": {
"field1": "a",
"field2": "b"
},
{
"field1": "c",
"field2": "d"
},....
}
]
}
}
В Java вы можете использовать setFetchSource следующим образом:
client.prepareSearch(index).setTypes(type)
.setFetchSource(new String[] { "field1", "field2" }, null)
Например, у вас есть документ с тремя полями:
PUT movie/_doc/1
{
"name":"The Lion King",
"language":"English",
"score":"9.3"
}
Если вы хотите вернуться, name
и score
вы можете использовать следующую команду:
GET movie/_doc/1?_source_includes=name,score
Если вы хотите получить несколько полей, которые соответствуют шаблону:
GET movie/_doc/1?_source_includes=*re
Может быть, исключить некоторые поля:
GET movie/_doc/1?_source_excludes=score
Используя Java API, я использую следующее, чтобы получить все записи из набора определенных полей:
public List<Map<String, Object>> getAllDocs(String indexName) throws IOException{
int scrollSize = 1000;
List<Map<String,Object>> data = new ArrayList<>();
SearchResponse response = null;
while( response == null || response.getHits().getHits().length != 0){
response = client.prepareSearch(indexName)
.setTypes("typeName") // The document types to execute the search against. Defaults to be executed against all types.
.setQuery(QueryBuilders.matchAllQuery())
.setFetchSource(new String[]{"field1", "field2"}, null)
.setSize(scrollSize)
.execute()
.actionGet();
for(SearchHit hit : response.getHits()){
System.out.println(hit.getSourceAsString());
}
}
return data;
}